实体
ConFaide+
ConFaide+
PulseAugur coverage of ConFaide+ — every cluster mentioning ConFaide+ across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
研究人员诱导 LLM 产生“醉酒语言”以暴露安全漏洞
研究人员开发了新颖的方法来诱导大型语言模型（LLM）产生“醉酒语言”，以测试其安全漏洞。通过采用基于角色的提示、因果微调和基于强化学习的后训练，他们观察到五个被评估的 LLM 在越狱和隐私泄露方面的易感性增加。该研究使用了 JailbreakBench 和 ConFaide+ 等基准测试，发现人类醉酒与 LLM 的拟人化之间存在相关性，这表明这些方法可能对 LLM 安全构成重大风险。
-
新框架LiSA通过稀疏的失败数据增强AI护栏
研究人员开发了LiSA（Lifelong Safety Adaptation，终身安全适应）新框架，旨在通过从稀疏且嘈杂的失败数据中学习来改进AI护栏。LiSA使用结构化记忆从个体事件中进行泛化，结合了用于混合标签上下文的冲突感知规则，并采用证据感知置信门控。这种方法在PrivacyLens+和AgentHarm等基准测试中，即使在存在显著标签噪声的情况下，也始终优于现有的基于记忆的方法，为保护AI代理免受不可预测的现实世界风险提供了…