PulseAugur
实时 00:20:22
实体 Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training

Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training

PulseAugur coverage of Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training — every cluster mentioning Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. COMMENTARY · CL_124324 ·

    专家警告:隐藏的大语言模型后门构成巨大安全风险

    研究人员和投资者越来越担心大型语言模型中隐藏的后门,这些后门可能被远程触发以窃取敏感数据。Anthropic 的研究人员在 2024 年 1 月的一篇论文中展示了这些“睡眠代理”可以绕过标准的安全性训练,使其难以检测。尽管一些专注于 AI 安全的初创公司已经获得了大量融资,但针对 AI 的防御性投资总体上远远落后于模型部署的速度,这使得企业面临风险。Microsoft Research 提出了一种名为“机制验证”的方法,通过分析模型的…