The Street View House Numbers Dataset
PulseAugur coverage of The Street View House Numbers Dataset — every cluster mentioning The Street View House Numbers Dataset across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
新框架可从数据统计预测机器学习模型性能
研究人员开发了新的理论框架来预测机器学习模型的性能。第一种方法,即 Hermite 特征结构 ansatz (HEA),利用原始数据统计来预测核回归的学习曲线,即使是在 ImageNet 等真实世界图像数据集上也是如此。第二个系统 Seer 采用最大似然回归来模拟分类学习性能,预测达到所需准确率所需的训练示例以及可达到的最大准确率。
-
新研究探索神经符号AI集成与可解释性
两篇新研究论文探讨了符号推理与神经网络的集成。第一篇论文《神经符号AI的基于规则的语言》调查了Datalog和概率逻辑程序等现有的基于规则的语言,并分析了它们在各种AI领域的应用。第二篇论文介绍了CRISP,一个将神经网络的决策过程重构为可解释子句的框架,从而实现了从输入特征到输出的符号追踪。
-
联邦学习数据损坏检测方法比较
一篇新的研究论文探讨了在联邦学习环境中检测数据损坏的方法。该研究比较了两种信号:输入条件不确定性和预测标签损失,并评估了它们对图像噪声和标签翻转的有效性。结果表明,预测标签损失对于检测持续的标签翻转更有效,而对不确定性的衡量更适合识别图像噪声。该论文建议,鲁棒的联邦学习数据质量评估应将检测信号与存在的特定损坏类型相匹配。
-
Temperon训练方法以更低成本实现SAM质量
研究人员推出了一种新颖的训练方法Temperon,旨在以显著降低的计算成本实现Sharpness-Aware Minimization (SAM) 的质量。Temperon采用两阶段方法:初始探索阶段使用标准SGD,然后在训练后期切换到SAM包装的Muon精炼器。该方法在CIFAR-10/100和Tiny ImageNet等各种数据集上已证明具有与全时SAM相当的准确性,并能更快地达到目标准确率。该方法在预训练GPT-2和针对GLUE…
-
CALM 方法通过类一致性改进去中心化联邦学习
研究人员推出了一种新颖的去中心化联邦学习方法 CALM,该方法可提高模型性能,尤其是在非独立同分布(non-IID)数据条件下。与依赖参数平均且需要相同客户端架构的传统方法不同,CALM 采用去中心化联邦蒸馏。此方法允许客户端从同伴模型快照中提取知识,无需中央服务器或共享架构。CALM 进一步通过引入三级信任门来优化此过程:基于一致性的类加权、基于教师发散的样本加权以及基于真实标签支持调整蒸馏强度的标签门。在 CIFAR-10 和 S…
-
RecKAN引入可学习递归多项式基以增强神经网络
研究人员推出了一种新颖的Kolmogorov-Arnold网络(KAN)方法RecKAN,该方法增强了其学习复杂函数的能力。与使用固定基函数的可学习函数的前代KAN变体不同,RecKAN定义了一个递归多项式基,其系数与网络一同学习。这使得RecKAN能够根据特定问题调整其基函数,超越了经典多项式族的局限性。在包括图像分类和时间序列预测在内的各种数据集上的实验表明,RecKAN在需要复杂局部结构的任务中,其性能优于现有的KAN基线和标准的MLP头。
-
新的MFSPNet方法大幅降低神经架构搜索成本
研究人员开发了MFSPNet,一种新颖的无模型代理辅助神经架构搜索方法,旨在降低设计深度神经网络的计算成本。该方法将一个轻量级预测器集成到粒子群优化框架中,无需预训练的代理模型。MFSPNet引入了一个由验证损失驱动的估计器,用于可靠的架构排名,以及一个基于块的密集连接策略,便于将演化的块迁移到不同的数据集。实验表明,MFSPNet在计算资源显著减少的情况下取得了具有竞争力的性能,在CIFAR-10上的错误率为3.91%,在SVHN上…
-
Superposed Latent Autoencoder 通过共享内存改进表示压缩
研究人员推出了一种新颖的表示压缩方法——Superposed Latent Autoencoder (SLAE),该方法允许多个更宽的潜在表示通过学习到的叠加共享存储。与传统的减小潜在尺寸的自编码器不同,SLAE 将潜在表示转换为存储友好的代码,用随机密钥绑定它们,并将它们叠加到单个内存张量中。该方法显著改善了重建-内存的权衡,在相同的内存预算下,重建误差最多可降低 56%,下游分类性能最多可提高 16.79 个百分点。
-
新的Topo^2框架将深度网络中的记忆与泛化分离开来
研究人员推出Topo^2,一个旨在分离和衡量深度学习模型中记忆与泛化的新颖框架。该框架利用持久同调将表示空间分离成不同的通道,从而量化记忆的噪声标签与泛化到干净数据。一项名为FM0处方的干预表明,模型可以在最小化记忆的同时达到峰值泛化,并且该研究将记忆的成本量化为一个因果可加的拓扑层。
-
新的C-Score框架评估SSL在数据污染下的鲁棒性
研究人员推出了一种新颖的框架C-Score,旨在评估半监督学习(SSL)模型的鲁棒性,特别是在面对被分布外(OOD)样本污染的未标记数据时。传统的SSL方法通常假设数据是干净的,但C-Score解决了“隐藏崩溃”问题,即尽管内部性能下降,模型性能指标可能仍显示稳定。该框架评估了预测、特征表示和优化空间中的训练行为,利用了PLE、CCI、Sem-Drift和Grad-Align等指标。在CIFAR-10和CIFAR-100数据集上的实验…
-
LipCache框架通过认证缓存增强边缘图像分类
研究人员开发了LipCache,一个旨在提高边缘侧图像分类服务效率的新框架。该系统使用一个名为GuardNet的轻量级网络将输入映射到特征空间,从而实现认证语义缓存。通过根据分类边距和谱范数计算重用半径,LipCache仅在查询落在认证球内时重用缓存结果,否则回退到主模型。这种方法在CIFAR和Tiny-ImageNet等标准数据集上实现了显著的加速,同时准确性下降很小,并确保所有缓存命中都满足理论一致性条件。
-
联邦学习基准揭示聚合方法的漏洞
研究人员开发了一个基准来评估各种攻击场景下的联邦聚合方法,包括模型投毒和后门攻击。该研究分析了五个数据集和四种条件下的五种聚合方法,发现在干净的条件下 Trimmed Mean 表现最佳,而在符号翻转和高斯攻击下 Krum 表现最佳。分析还指出了 FedPARETO 框架和 BadNets 指标实现的潜在差异,表明当前评估实践存在局限性。
-
联邦聚合方法经受 AI 模型投毒攻击测试
一项新的基准研究评估了联邦聚合方法在模型投毒和后门攻击下的表现,重建了一个跨越不同数据集、架构和攻击条件的综合评估矩阵。Trimmed Mean 在干净数据上表现最佳,而 Krum 在符号翻转和高斯攻击下表现优异。研究还指出了 BadNets 指标和 FedPARETO 框架实现方面存在的问题,暗示了报告结果可能存在的差异。
-
正则化 JEM 模型显示 PC 和 SGLD 采样器之间性能无差异
研究人员调查了预测-校正器 (PC) 和随机梯度 Langevin 动力学 (SGLD) 这两种采样方法应用于 CIFAR-10 数据集上的正则化联合能量模型 (JEM) 时的性能。该研究旨在确定 PC 采样器是否能在统一分类和生成任务方面复制 SGLD 的理论优势。研究结果表明,在测试准确率和分布外检测方面,两种方法的性能几乎相同,PC 相对于 SGLD 并没有明显优势。研究还确定了两种失效模式:后期训练发散和分布外判别中的运行依赖动力学。
-
新的AI遗忘方法可不可逆地擦除数据
研究人员开发了一种名为One-Point Contraction (OPC) 的新机器学习遗忘方法,旨在不可逆地从AI模型中擦除数据。与仅模糊信息的现有方法不同,OPC将遗忘集特征折叠到原点,使其与分布外数据无法区分。这种方法已被证明能抵御恢复攻击,并保持保留数据的完整性,为AI中的安全数据擦除设定了新标准。
-
AI通过神经符号和BNN方法推进光子组件设计
研究人员开发了使用AI设计光子组件的新方法。一种方法,“光子贝叶斯神经网络的约束协同设计”,通过解决光子实现中的硬件约束来专注于改进贝叶斯神经网络的不确定性估计。另一种方法,“PixCell”,使用神经符号系统将光子组件的视觉表示转换为可执行的参数化程序,实现了高精度,并能够训练Qwen3.6 35B-A3B等大型语言模型,而无需监督演示。
-
EulerLoRA 通过随机性增强参数高效微调
研究人员开发了 EulerLoRA,这是参数高效微调的低秩适配 (LoRA) 技术的一种新颖扩展。与标准 LoRA 不同,EulerLoRA 引入随机性,通过对共享低秩适配器内的变异进行采样来生成多个预测轨迹。这种方法允许进行预测不确定性估计,并且在视觉 Transformer 任务上已证明与 LoRA-Ensemble 基线相比具有相当或更优的性能,同时显著减少了可训练参数的数量。
-
新框架增强了用于跨域图像分类的深度JSCC
研究人员开发了一种新颖的深度联合信源信道编码(Deep JSCC)域自适应框架,以提高在分布变化下的图像分类性能。提出的分类-容量不变性(CCI)函数分析了信道容量和跨域不变性如何影响准确性。在数字和PACS数据集上的实验表明,在AWGN和瑞利衰落信道上具有更好的泛化能力,在10 dB CSNR下实现了SVHN到MNIST迁移的98.15%的准确率。
-
AI研究使用多臂老虎机剪枝神经网络
研究人员开发了一种新颖的方法来剪枝卷积神经网络(CNN)中的特征图,以降低计算成本和存储需求。该方法利用多臂老虎机算法,特别是UCB1和Thompson Sampling,在最小化准确性损失的同时识别和移除冗余特征图。研究表明,这些基于老虎机的算法在MNIST、CIFAR-10和SVHN等各种数据集上,其准确性与未剪枝模型相当,并且显著优于传统的贪婪和基于幅度的剪枝技术。
-
新方法增强深度神经网络训练中的差分隐私 · 跟踪 2 个来源
两篇新研究论文提出了在差分隐私下训练深度神经网络的新颖方法,旨在提高准确性和效率。第一篇论文介绍了一个端到端的框架,该框架对训练输入进行隐私化,同时保持标签公开,在多个基准数据集上实现了最先进的准确性。第二篇论文提出了一种解耦的训练方法,将表示学习与隐私执行分开,展示了改进的隐私-效用权衡和收敛保证。