实体
Mamba-130M
Mamba-130M
PulseAugur coverage of Mamba-130M — every cluster mentioning Mamba-130M across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
3
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
新研究通过收缩条件认证AI安全头的鲁棒性
研究人员开发了一种方法，可以形式化地认证语言模型中安全分类器的鲁棒性，特别是基于状态空间模型（SSMs）的模型。他们证明了状态转移矩阵上的一个关键条件，即收缩条件（$ orm{A}_ ext{inf}<1$），对于精确区间边界传播（IBP）认证是必需的。当满足此条件时，可以认证安全头对扰动输入的预测一致性，并且研究人员在有毒评论数据上展示了改进的认证比例。将收缩正则化的S4头应用于越狱检测任务，在AdvBench和HarmBench等…
-
CPU 级分类器提供经济高效的 LLM 安全执行
一篇新的研究论文提出了 GuardChain，这是一个用于 LLM 部署的三阶段安全流水线，可显著减少对昂贵 GPU 基础设施的依赖。研究表明，CPU 级分类器可以有效地处理大部分分布内提示，以较低的成本实现接近峰值的准确率。虽然 CPU 分类器在处理分布外和对抗性混淆的输入时遇到困难，但提出的 GuardChain 流水线将它们与基于 GPU 的模型集成，以恢复这些失败，从而提供一种更具成本效益的大规模 LLM 安全执行方法。
-
LiMuon优化器可降低大型AI模型训练成本
研究人员推出LiMuon，这是一种旨在提高大型机器学习模型训练效率的新型优化器。该优化器在现有μ子框架的基础上，通过引入基于动量的方差缩减和随机奇异值分解进行了增强。与之前的μ子变体相比，LiMuon旨在减少内存使用和样本复杂度，并为在非凸优化问题中找到平稳解提供了理论保证。