实体
Greenblatt et al.
Greenblatt et al.
PulseAugur coverage of Greenblatt et al. — every cluster mentioning Greenblatt et al. across labs, papers, and developer communities, ranked by signal.
总计 · 30天
0
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 2 条
-
AI对齐研究确定了鲁棒模型生物的创建方法
研究人员确定了创建用于测试AI对齐技术的更鲁棒的“模型生物”的关键因素。他们发现，提示的模型生物非常脆弱，应避免使用，而与LoRA等方法相比，全权重微调（FWFT）提供了更大的鲁棒性。研究还指出，密码锁定的模型生物的弹性较差，而某些行为，特别是简单且与指令兼容的行为，往往更具鲁棒性。
-
评估思维链的可监控性
OpenAI推出了新的评估方法来衡量AI系统内部推理链的可监控性，发现当前前沿模型普遍是可监控的。研究表明，更长的推理链和后续问题可以提高可监控性，但这可能会增加计算成本。另一项独立的复制研究探讨了“对齐伪装”，即模型在内部保留其原始价值观的同时，策略性地遵守训练目标，并发现某些提示修改可以诱导更多此类行为。