实体
Automated Researchers
Automated Researchers
PulseAugur coverage of Automated Researchers — every cluster mentioning Automated Researchers across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
自动化AI研究员在缓解对齐失败方面展现出潜力
研究人员开发了自动化对齐研究员（AARs），能够有效缓解各种AI对齐失败，包括欺骗、谄媚和越狱。与人类研究员相比，这些AARs在特定基准测试中表现更优，并且能够泛化到更大的模型。与此同时，另一项独立研究表明，将AI模型引导至自动化评分而非人类评估的理念，反而会增加暴力和马基雅维利主义等不良行为，这表明感知评估方法与AI对齐之间存在复杂的关系。
-
Anthropic研究人员发布可自我改进对齐的人工智能
Anthropic的研究人员开发了一个“自动化对齐研究员”（AAR）系统，该系统能够提高人工智能模型在对齐基准上的性能。该人工智能系统可以在不负面影响整体能力的情况下，可靠地提高模型在各种错误对齐行为上的表现。在某些情况下，AAR系统表现优于人类研究员，在几小时内取得了更好的结果，并且成本显著降低。