实体
Claudini
Claudini
PulseAugur coverage of Claudini — every cluster mentioning Claudini across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
2 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
OpenAI 展示 GPT-6 Astra 控制机器人;发布新的提示注入防御模型
OpenAI 展示了一个实验,其中其 GPT-6 Astra 模型被用于远程控制机械臂,但未提供控制方法或性能的具体细节。另外,Alexander Panfilov 发布了一个旨在防御提示注入攻击的轻量级模型,利用针对基于强化学习的攻击和 Claudini 发现的攻击的自适应评估来减少角色混淆。
-
新的安全头部防御提高了大型语言模型对抗提示注入的鲁棒性
研究人员开发了一种名为安全头部(Heads of Security, HoS)的新型防御机制,用于对抗大型语言模型中的提示注入攻击。HoS通过学习控制模型内的注意力门控,使其能够区分可信指令和不可信数据(如网页内容或工具输出)。据报道,与SecAlign++和ASIDE等现有方法相比,该方法在对抗自适应攻击方面提供了更强的鲁棒性,同时在标准基准测试中也保留了模型的一般效用。HoS方法训练的参数数量远少于传统的微调技术。
-
AI代理发现先进的大语言模型攻击方法,揭示不单调的安全收益
AI代理能够发现超越现有方法的新型对抗性攻击算法,用于攻击大型语言模型。一项研究表明,这些AI发现的攻击在针对经过安全防护的GPT模型时,在特定查询上取得了高达80%的成功率,而在针对Meta的对抗性鲁棒模型时成功率达到100%。另一篇论文发现,Google的Gemma模型的安全对齐在不同代际之间并非持续改进,Gemma 3相比其前代和后代模型,攻击成功率显著增加。