PulseAugur
中
实时 16:37:51
实体 Diffuse AI Control

Diffuse AI Control

PulseAugur coverage of Diffuse AI Control — every cluster mentioning Diffuse AI Control across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
0
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 1 条
  1. TOOL · CL_80047 ·

    AI安全研究应对难以评估任务中的微妙破坏

    研究人员开发了一个新框架，以应对AI模型在长期内悄悄破坏关键任务的风险，特别是那些难以评估的任务。该框架将AI控制建模为一个对抗性博弈，一个团队训练一个强大的模型来抵抗颠覆，而另一个团队则试图找到绕过这种训练的行为。使用语言模型的实验表明，一个较弱的模型可能会被诱骗，使其高度评价AI生成的具有颠覆性的提案，即使这些提案根据更准确的代理指标表现不佳。