CIFAR-10
PulseAugur coverage of CIFAR-10 — every cluster mentioning CIFAR-10 across labs, papers, and developer communities, ranked by signal.
- instance of CIFAR10-DVS: An Event-Stream Dataset for Object Classification 90%
- instance of CIFAR-100 70%
- used by ResNet-18 70%
- instance of Fashion-MNIST 70%
- instance of Tiny-ImageNet 70%
- used by residual neural network 70%
- instance of ResNet-18 70%
- used by federated learning 70%
- instance of Imagenet 1k 70%
- instance of residual neural network 70%
- used by Deep Neural Networks 70%
- used by The Street View House Numbers Dataset 70%
22 天有情绪数据
-
新框架增强联邦学习的隐私、鲁棒性和效率 · 跟踪4个来源
研究人员正在开发先进的联邦学习(FL)框架,以增强隐私、鲁棒性和效率。PRoVeFL利用多服务器上的多密钥全同态加密来防止推断和投毒攻击,显著提高了运行时间。另一种方法引入了一个自适应框架,通过使用局部降维和动态梯度裁剪来稳定训练并提高差分隐私下的模型性能,从而解决设备异构性和非独立同分布数据的问题。第三个系统FeLiX通过采用流感知可用性层和鲁棒聚合机制,专注于在真实场景中最小化达到准确率的挂钟时间,以应对客户端流失。最后,一个理论…
-
新的剪枝技术优化了嵌入式事件驱动视觉的GCN
研究人员开发了一种面向嵌入式事件驱动视觉系统的图卷积神经网络(GCN)的硬件感知剪枝和量化策略。该方法旨在通过减少内存使用同时保持推理精度来优化资源受限FPGA平台上的GCN模型。在CIFAR-10、MNIST-DVS和N-Caltech101等数据集上的评估表明,BRAM内存显著减少,精度下降幅度在1.65%至5.18%之间。
-
FedEAS策略降低了联邦学习中合成数据生成的成本
研究人员开发了FedEAS,这是一种旨在缓解联邦学习(FL)中标签偏斜的新型策略。该方法通过根据每个客户端的本地标签分布为其分配预算来优化合成数据生成过程,从而确定生成样本的数量和目的地。与传统的全类别平衡方法相比,FedEAS显著降低了相关的计算成本,在生成预算减少高达94.1%的情况下实现了显著的准确性提升。与相同生成预算下的均匀分配策略相比,FedEAS表现出更优越的性能,在CIFAR-10和CIFAR-100等数据集上准确率提…
-
新方法修复了扩散模型中无分类器引导的不稳定性
研究人员发现扩散模型中无分类器引导(CFG)存在一个关键问题,即高引导水平会导致过饱和和不稳定性。他们提出了一种新颖的修复机制,用修改后的版本替换标准的CFG公式,在不增加计算成本的情况下有效稳定了该过程。这种新方法在测试网格上相对于传统CFG取得了显著的改进,获得了9/9个FID点数胜利,并在稳定Stable Diffusion 1.5等模型的强引导场景方面显示出潜力。
-
新的FedCVESA攻击窃取联邦学习模型中的私有数据
研究人员开发了FedCVESA,一种在联邦学习环境中进行“窃取训练数据”(TATD)攻击的新颖方法。这种白盒攻击针对特定客户端,将私有训练数据编码到模型参数(称为载体参数)中。为了对抗联邦学习中标准服务器聚合过程中发生的覆盖问题,FedCVESA采用了分段聚合,保留了这些关键的载体参数,同时允许其余参数进行正常平均。在MNIST和CIFAR-10等数据集上的实验表明,即使在非独立同分布(non-IID)数据分布下,FedCVESA也能…
-
新的PGA-DPS方法增强了主动概率子采样,以改进数据处理
研究人员开发了一种名为先验感知和上下文引导分组主动DPS(PGA-DPS)的新方法,以改进主动概率子采样。该技术通过结合数据集先验和采用基于分组的采样来增强现有的主动深度概率子采样(A-DPS),这在理论上可以带来更稳健的优化。PGA-DPS在MNIST、CIFAR-10和fastMRI等数据集的分类、图像重建和分割任务上进行了评估,其性能始终优于以前的方法。
-
BitLogic框架统一了FPGA原生神经网络的训练
研究人员开发了BitLogic,一个统一的框架,旨在标准化利用布尔逻辑运算而非传统乘加运算的梯度下降型神经网络的训练和评估。该框架允许将单个训练好的检查点部署到GPU、FPGA和ASIC上,解决了当前训练流水线和硬件报告惯例的碎片化问题。通过系统地分析设计空间,BitLogic识别出一种最优配置,在准确性和效率方面均优于以往的方法,在FPGA上实现了比GPU显著更高的吞吐量和更低的能耗。
-
\lambda-VAE 解决了变分自编码器中的后验崩溃问题
研究人员确定了变分自编码器 (VAE) 中后验崩溃的两个主要原因:梯度不平衡和信息鸿沟。当解码器的重建信号比 KL 正则化压力衰减得更快时,就会发生梯度不平衡;当采样步骤丢弃了重要的编码器表示,降低了解码器的敏感性时,就会出现信息鸿沟。为了解决这些问题,引入了一种名为 \lambda-VAE 的新方法。该方法通过用每个维度的指数来缩放采样噪声来修改重参数化步骤,从而产生一种不对称性,将训练从崩溃转移到方差均衡状态。在 Binary M…
-
新框架通过状态分析对深度神经网络进行经验性压缩
研究人员开发了一种通过分析其内部状态的可控性和可观测性来压缩深度神经网络的新颖方法。该框架将训练好的网络视为动力学系统,使用数据驱动的测试来估计隐藏状态内的冗余度。该方法成功地减小了MNIST和CIFAR-10数据集上网络的态阶,在状态和参数方面实现了显著压缩,同时在很大程度上保持了准确性并提高了推理速度。
-
新的DP-DiPP方法提供10-30倍更好的隐私数据压缩
研究人员开发了DP-DiPP,一种结合了扩散模型和随机编码的差分隐私数据压缩新流程。该方法使用户能够控制压缩率、隐私和效用之间的权衡。在CIFAR-10上的实验表明,DP-DiPP在保持可比的隐私和效用的同时,实现了比现有基线高10-30倍的压缩效果。
-
SE-UNet框架为逆问题提供数据高效的图像合成
研究人员推出了一种新颖的图像合成框架SE-UNet,它解决了扩散模型在真实世界逆问题中的局限性。该新方法利用几何等变性和奇异值门控,无需广泛的预训练即可解决病态成像任务。SE-UNet在CIFAR-10上展示了最先进的零样本修复能力,显著优于现有基线,并能快速收敛到准确的解决方案。
-
图Transformer框架通过保持不变性来增强图像分类
研究人员开发了SuperGT,一个基于图Transformer的框架,旨在改进超像素图像分类。这种新方法旨在捕捉图像数据中的长距离依赖关系并保持平移/旋转不变性,解决了先前图神经网络方法中的局限性。SuperGT在CIFAR-10数据集上进行了评估,与许多现有基线相比,表现更优,并且在不需要特定边界点坐标的情况下取得了与最先进的ShapeGNN相当的结果。
-
新方法探测神经网络损失锐度以实现稳定的学习率
研究人员开发了一种新方法来估计神经网络中损失函数的局部锐度,这是稳定梯度步骤的关键因素。通过分析Armijo回溯线搜索期间接受的步长,他们可以推导出一种低成本的Hessian特征值探测器。该探测器在初始化期间使用一次,可提供一个学习率保护器,使Adam和AdamW等优化器在各种值和架构上都能抵御过大的初始学习率。
-
新框架xNCD提供可解释的AI类别发现
研究人员开发了一个名为xNCD的新框架,用于可解释的新颖类别发现。与使用不透明的潜在特征空间之前的其他方法不同,该方法在结构化的语义概念空间中运行。通过将视觉特征与多模态模型对齐并使用自标注目标,xNCD通过稳定的概念签名和实例级证据为发现的类别提供内在解释。在CIFAR-10、CIFAR-100和CUB-200数据集上的实验表明,xNCD在提供人类可读的解释的同时,保持了强大的发现性能。
-
LLM指导神经网路生成,通过源模型指导提高准确性 · 已追踪2个来源
研究人员开发了一种新协议,利用大型语言模型(LLM)通过一个更强的同家族源模型指导生成过程,来改进现有的神经网路。该方法旨在解耦迁移学习与适应,确保生成的修改既有效又准确。该协议在CIFAR-10和SVHN等数据集上展示了显著的准确性提升,优于非源指导的候选模型,并表明LLM会适应而非简单复制源模型的架构。
-
新的无监督方法为Siamese网络设定验证阈值
研究人员开发了一种新颖的无监督方法,用于确定Siamese验证网络中的验证阈值。该方法假设网络产生的距离分布可以用双峰函数近似,并识别两个峰值之间的最低点来设定阈值。该方法无需手动标记,允许在部署环境中动态更新阈值。在MNIST和CIFAR-10等数据集上的评估显示,平均验证准确率为94%,与等错误率方法相当。
-
新的V-GIB方法整合了潜在几何以进行表征学习
研究人员推出了一种新颖的表征学习方法——变分几何信息瓶颈(V-GIB),该方法将潜在几何显式地纳入瓶颈准则。该方法旨在通过惩罚曲率和内在潜在维度来提高性能,尤其是在数据稀疏的学习场景中。理论分析将编码器几何与学习结果联系起来,在Fashion-MNIST和CIFAR-10等基准测试上的实证结果表明,V-GIB在提高性能和降低几何复杂性方面具有潜力。
-
新方法量化量化对神经网络分类器决策边界的影响
研究人员开发了一种名为边界感知量化(Boundary-Aware Quantization)的新方法,用于分析量化如何影响神经网络分类器的决策边界。该技术使用局部对数边距半径(local logit-margin radii)和边界雅卡德距离(boundary Jaccard distance)等指标来量化边界的变化。在数字数据集(digits dataset)和CIFAR-10等基准测试上的实验表明,与标准的以准确率为中心的量化方法…
-
轻量级卷积神经网络的准确性和效率基准测试
一项新近发表在arXiv上的研究,为轻量级卷积神经网络(CNNs)提供了一个可复现的基准测试。该研究在CIFAR-10、CIFAR-100和Tiny ImageNet数据集上比较了七种已建立的架构。研究人员在统一的微调协议下,根据准确性、参数数量、存储和计算操作评估了模型。EfficientNetV2-S取得了最高的Top-1准确率,而EfficientNet-B0在性能和效率之间取得了良好的平衡,使用的参数和操作数量显著减少。研究还…
-
新算法实现热力学人工智能模型的可扩展训练
研究人员开发了一种新的基于反向传播的算法,用于在Ising机硬件上训练用于热力学推理的深度卷积网络。该方法实现了低功耗AI推理设备的可扩展训练,在CIFAR-10和CIFAR-100等图像分类任务上达到了高精度。该工作还引入了数学理论来关联推理成本与准确性,并探索了最优推理计划,这对未来热力学AI的硬件开发具有启示意义。