PulseAugur
中
实时 00:28:12
实体 Alignment Generalization Prediction

Alignment Generalization Prediction

PulseAugur coverage of Alignment Generalization Prediction — every cluster mentioning Alignment Generalization Prediction across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条
  1. RESEARCH · CL_284313 ·

    新研究探索自改进的AI对齐和泛化预测

    两篇新研究论文探讨了改进AI对齐和泛化能力的方法。第一篇论文介绍了“对齐泛化预测”，一项旨在预测针对特定价值观进行模型微调如何影响其在未见过的上下文中的行为的任务。研究发现，使用模型激活进行预测的性能远超文本描述，相关性达到0.45。第二篇论文提出了SIGMA，一个用于自改进对齐泛化的流程。SIGMA利用模型自身的推理来生成和训练对齐困境，在多轮代理环境中，它展示了有害性的降低，并优于现有基线。