实体 Aars

Aars

PulseAugur coverage of Aars — every cluster mentioning Aars across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_228650 · Sep 1 · 04:00

自动化研究员在AI对齐缓解方面超越人类

研究人员开发了自动化对齐研究员（AARs），能够有效缓解各种AI对齐失败，包括欺骗、谄媚和越狱。这些AARs显著减少了目标对齐失败，并能泛化到更大的模型和多轮行为审计。在比较测试中，最佳AAR方法甚至在提供人类想法作为起点的情况下，也优于经验丰富的人类研究员。这表明，为明确定义的失败实现对齐研究自动化是一个切实的近期可能性。