Fashion-MNIST
PulseAugur coverage of Fashion-MNIST — every cluster mentioning Fashion-MNIST across labs, papers, and developer communities, ranked by signal.
11 天有情绪数据
-
量子GAN无需技巧即可生成全分辨率图像
研究人员开发了一种新颖的量子生成对抗网络(qGAN),能够从MNIST和Fashion-MNIST等经典数据集中生成全分辨率图像。该方法通过直接将完整的图像数据加载到量子计算机上,避免了降维或使用多个模型的需要。该系统为单个端到端量子生成器树立了新的最先进水平,并展示了在Street View House Numbers等数据集上生成彩色图像的潜力。该架构的归纳偏倚和增强的噪声输入技术是其在图像生成中性能和多样性的关键,即使在量子散粒…
-
新的FedCVESA攻击窃取联邦学习模型中的私有数据
研究人员开发了FedCVESA,一种在联邦学习环境中进行“窃取训练数据”(TATD)攻击的新颖方法。这种白盒攻击针对特定客户端,将私有训练数据编码到模型参数(称为载体参数)中。为了对抗联邦学习中标准服务器聚合过程中发生的覆盖问题,FedCVESA采用了分段聚合,保留了这些关键的载体参数,同时允许其余参数进行正常平均。在MNIST和CIFAR-10等数据集上的实验表明,即使在非独立同分布(non-IID)数据分布下,FedCVESA也能…
-
BitLogic框架统一了FPGA原生神经网络的训练
研究人员开发了BitLogic,一个统一的框架,旨在标准化利用布尔逻辑运算而非传统乘加运算的梯度下降型神经网络的训练和评估。该框架允许将单个训练好的检查点部署到GPU、FPGA和ASIC上,解决了当前训练流水线和硬件报告惯例的碎片化问题。通过系统地分析设计空间,BitLogic识别出一种最优配置,在准确性和效率方面均优于以往的方法,在FPGA上实现了比GPU显著更高的吞吐量和更低的能耗。
-
新的MACS方法增强了扩散模型在逆成像问题中的应用
研究人员开发了一种名为MACS(Measurement-Aware Consistency Sampling,面向测量的相干性采样)的新方法,以提高扩散模型在解决逆成像问题中的效率和准确性。该方法修改了相干性采样,引入了一个测量相干性机制,该机制利用退化算子来调节采样器的随机性。这确保了对观测数据的保真度,同时保持了基于相干性的生成的计算速度。在Fashion-MNIST和LSUN Bedroom等数据集上的实验表明,与现有方法相比,…
-
新方法探测神经网络损失锐度以实现稳定的学习率
研究人员开发了一种新方法来估计神经网络中损失函数的局部锐度,这是稳定梯度步骤的关键因素。通过分析Armijo回溯线搜索期间接受的步长,他们可以推导出一种低成本的Hessian特征值探测器。该探测器在初始化期间使用一次,可提供一个学习率保护器,使Adam和AdamW等优化器在各种值和架构上都能抵御过大的初始学习率。
-
自旋电子学模拟用于图像识别,性能媲美软件
研究人员开发了一种使用模拟自旋电子元件进行图像识别的新颖方法,特别是基于涡旋的自旋转移矩振荡器(STVO)。该方法通过数据驱动的Thiele方程方法(DD-TEA)进行模拟,无需进行大量的实验操作即可进行超参数调整和基准测试。将STVO动力学集成到极限学习机(ELM)中,并成功应用于MNIST、EMNIST-letters和Fashion MNIST数据集。模拟表明,STVO的非线性动力学可以实现与ReLU和sigmoid等传统软件激…
-
新的V-GIB方法整合了潜在几何以进行表征学习
研究人员推出了一种新颖的表征学习方法——变分几何信息瓶颈(V-GIB),该方法将潜在几何显式地纳入瓶颈准则。该方法旨在通过惩罚曲率和内在潜在维度来提高性能,尤其是在数据稀疏的学习场景中。理论分析将编码器几何与学习结果联系起来,在Fashion-MNIST和CIFAR-10等基准测试上的实证结果表明,V-GIB在提高性能和降低几何复杂性方面具有潜力。
-
新方法量化量化对神经网络分类器决策边界的影响
研究人员开发了一种名为边界感知量化(Boundary-Aware Quantization)的新方法,用于分析量化如何影响神经网络分类器的决策边界。该技术使用局部对数边距半径(local logit-margin radii)和边界雅卡德距离(boundary Jaccard distance)等指标来量化边界的变化。在数字数据集(digits dataset)和CIFAR-10等基准测试上的实验表明,与标准的以准确率为中心的量化方法…
-
新的 S-GAI 框架将数据集几何嵌入 MLP 权重
研究人员开发了 S-GAI,一种用于 Sigmoidal MLP 的新型初始化框架,可将数据集几何直接嵌入网络权重。该方法使用奇异值分解 (SVD) 从图像数据中估计类别的谱几何,创建比传统 Xavier 初始化更具信息量的初始化隐藏层。在 MNIST、Fashion-MNIST 和 CIFAR-10 上的实验表明,S-GAI 初始化模型在训练更少的情况下可达到可比的准确率,并且在隐藏层冻结时甚至优于随机初始化。
-
新的GAN模型推进可解高维训练动力学 · 跟踪2个来源
研究人员开发了一个可解的高维生成对抗网络(GAN)训练模型,将先前的分析扩展到包含结构化潜在协方差。该新模型考虑了类别依赖、相关和非零均值的潜在结构,这对于真实世界数据至关重要。研究表明,训练过程收敛于由有效协方差决定的确定性常微分方程,揭示了一种信号增强机制,其中低秩相关性可以增强学习。在MNIST和CIFAR-10等数据集上的实验证实了模型的准确性以及知情生成器协方差的好处。
-
新研究探讨计算机视觉系统的隐私保护技术
两篇新研究论文探讨了增强计算机视觉系统隐私的方法。第一篇论文“PrivacyBench”介绍了一个评估隐私技术组合的框架,揭示了联邦学习(FL)与差分隐私(DP)的结合可能导致显著的收敛失败和成本增加,而FL与安全多方计算(SMPC)的结合则能保持性能。第二篇论文“用于隐私保护视觉的同态加密”详细介绍了使用全同态加密在加密图像数据上执行推理任务,并在MNIST和CIFAR-10等各种数据集上展示了分类准确率的微小下降。
-
新方法计算值得信赖的神经网络鲁棒性认证
研究人员开发了一种计算神经网络值得信赖的鲁棒性认证的新方法,解决了对抗性样本的挑战。所提出的方法引入了一个“切线测量”来高效地找到切线最优认证,并证明了对于基于神谕的算法来说,体积最优认证在计算上是不可行的。该系统名为 ParallelepipedoNN,在 MNIST 和 Fashion MNIST 基准测试上进行了评估,与现有方法相比,最小边长有了显著提高。
-
新的“Pre-Warm”方法提高了CNN初始化精度
研究人员开发了一种名为Pre-Warm的新方法来初始化卷积神经网络。该技术使用单个训练批次的数据来条件化第一个卷积层的初始化,采用了MiniBatchKMeans聚类和逆曼哈顿空间加权。Pre-Warm在包括MNIST、Fashion-MNIST、CIFAR-10、SVHN和CIFAR-100在内的多个标准基准测试中,均显示出统计学上显著的精度提升,且开销可忽略不计,无需进行任何架构更改。
-
新方法可训练非常深层的预测编码网络
研究人员提出了一种名为高速公路误差传播(HEP)的新方法,以应对训练非常深层的预测编码网络(PCN)的挑战。传统的PCN在深层架构中学习信号衰减迅速的问题,阻碍了它们在浅层网络之外的有效性。HEP通过直接将隐藏状态与输出误差耦合的反馈矩阵修改PCN的结构,确保无论网络深度如何,都能获得一致的校正信号。该方法在MNIST和Fashion-MNIST等基准测试中成功训练了多达128层的多层感知机,展示了强大的准确性。
-
New Quantum Measurement Temperature method stabilizes hybrid QNN training
研究人员发现了一种在混合量子神经网络(QNN)中称为测量诱导logit收缩的新问题,该问题会导致训练不稳定。这是因为当标准交叉熵损失与来自量子测量的有界输出一起使用时,会抑制参数梯度。为了解决这个问题,引入了一个新的可学习参数——量子测量温度(QMT)。QMT在训练过程中重新缩放量子测量输出,增加梯度幅度和方差,以提高损失敏感度和分类准确性。
-
GrapNet 引入可编程神经图,增强模型可编辑性
研究人员推出 GrapNet,这是一种新颖的神经图基底,旨在为固定张量神经网络带来可编程性。该系统将图本身视为可执行程序,允许直接在神经程序上进行编辑关系、冻结子图和审计局部函数等操作。GrapNet 与 CNN 和 ResNet 等现有模块集成,在拆分 Fashion-MNIST 和 CIFAR-10 等任务上表现优于传统的密集 MLP。
-
新研究分析 simPE 对图像旋转的鲁棒性
研究人员对相似性位置编码 (simPE) 在旋转下的鲁棒性进行了理论分析和实验验证,这是医学成像等应用中的关键方面。研究表明,虽然 simPE 本身不是旋转不变的,但在具有明确界限的旋转扰动下表现出稳定性。在合成和基准数据集上的实验表明,在处理旋转图像时,simPE 在准确性和其他指标方面始终优于标准学习位置编码。
-
新训练方法提升可见光衍射神经网络性能
研究人员开发了一种新的衍射深度神经网络(D2NN)训练方法,解决了可见光应用中的局限性。现有的薄层近似法对于可见光范围的D2NN来说是失败的,因为低折射率材料所需的厚度会导致显著的层内衍射。新的可微光束传播($\partial$BPM)层将衍射元件建模为有限体积,实现了高度图的端到端训练,并大大减少了设计与器件之间的不匹配。
-
新方法使用Ising Machines训练基于能量的神经网络
研究人员开发了一种通过混合平衡传播(Equilibrium Propagation)与Ising Machines来训练基于能量的神经网络的新方法。该方法旨在通过修改神经网络状态的物理动力学来克服基于GPU的传统训练的能量需求并提高收敛性。新框架在各种数据集上展示了与反向传播(backpropagation)相当的性能,并为更节能的AI硬件指明了方向。
-
优化光学器件可提升探测器限制下的AI分类性能
研究人员开发了一个理论框架,用于理解何时通过优化具有神经网络后端的光学前端可以提高成像分类性能。研究发现,在探测器读出受限的情况下,例如测量次数有限或采样粗糙,通过增强类别可分性,这些优势最为显著。然而,在探测器完全读出的情况下,传统透镜表现相当,联合优化没有实际优势。研究还强调,这些光学-神经网络联合设计在探测器噪声较低且判别性内容集中在较低空间频率时最有效。