实体
HaloGuard 1.0
HaloGuard 1.0
PulseAugur coverage of HaloGuard 1.0 — every cluster mentioning HaloGuard 1.0 across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
HaloGuard 2.0：开源输出防护器提升多语言AI安全性
研究人员推出了HaloGuard 2.0，这是一种开源流式输出防护器，旨在增强AI模型的多语言响应安全性。该系统为生成的每个token分配一个安全概率，从而能够实时干预以阻止有害内容。HaloGuard 2.0建立在其前身HaloGuard 1.0的“宪法”基础上，并包含了一个新颖的训练阶段，以纠正模型最初只关注提示而非响应的捷径。与现有防护器相比，新模型在准确性和效率方面均有显著改进，其多语言版本在17种语言上也表现强劲。
-
HaloGuard 1.0: 开放权重AI安全分类器实现SOTA性能
研究人员推出了HaloGuard 1.0，一个用于AI安全的开放权重宪法分类器。该模型在多语言提示安全基准测试中表现出最先进的性能，与现有的领先开放防护模型相比，在模型尺寸显著减小的情况下获得了高F1分数。HaloGuard 1.0利用了包含46项策略的自然语言宪法来驱动合成数据生成，并采用了双层无害设计来解决误报问题。这些模型以开放权重形式发布，并进行持续的对抗性红队测试，以增强其对各种攻击的鲁棒性。