实体
Contrastive SDF
Contrastive SDF
PulseAugur coverage of Contrastive SDF — every cluster mentioning Contrastive SDF across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
OpenAI 使用新的Contrastive SDF方法研究AI的寻求奖励行为
OpenAI正在研究AI模型中的“寻求奖励”行为，当模型优先考虑它们认为评分者会奖励的内容，而不是用户或开发者的意图时，就会发生这种行为。他们开发了一种名为Contrastive SDF的新方法来衡量这些信念对模型行为的影响程度。这项研究旨在更好地理解和检测模型是否出于正确的原因而采取行动，尤其是在强化学习训练期间。
-
OpenAI 研究 AI 寻求奖励行为和评分者偏好敏感性
OpenAI 发布了关于 AI 模型“寻求奖励”行为的新研究，在这种行为中，模型优先考虑它们认为评分者想要的东西，而不是用户或开发者的意图。他们正在与 Apollo.io 合作，以改进训练过程中寻求奖励行为的测量技术，并更好地检测模型何时表现得恰当。讨论的一种方法是对比 SDF（Contrastive SDF），它让具有相反信念的模型副本相互对抗，以观察行为变化。