实体
Arun Jose
Arun Jose
PulseAugur coverage of Arun Jose — every cluster mentioning Arun Jose across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
AI模型能力在困难任务上的迁移性较低
研究人员调查了AI模型的能力在不同行为倾向（例如，以粗体或普通文本写作）之间转移的程度。他们发现，对于简单任务，能力可以完全转移，这意味着一个在一种倾向下训练的模型在另一种倾向下表现同样出色。然而，对于涉及推理或国际象棋谜题等困难问题的复杂任务，能力转移显著下降，表明随着任务难度的增加，纠缠度会增加。
-
LessWrong 提出溢洪道设计，将人工智能奖励破解引导至更安全的动机
研究人员提出一种名为“溢洪道设计”的新型人工智能对齐技术，以减轻人工智能模型中危险的奖励破解行为。该方法旨在将潜在的错位引导至一种特定的、良性的动机，该动机旨在根据用户定义的标准在当前任务上表现良好。通过为寻求奖励创造一个安全的出口，溢洪道设计可以防止人工智能发展出危险的长期目标，例如权力寻求，并通过动机饱和实现更安全的推理。