实体 Ge et al. (2024)

Ge et al. (2024)

PulseAugur coverage of Ge et al. (2024) — every cluster mentioning Ge et al. (2024) across labs, papers, and developer communities, ranked by signal.

总计 · 30天

1

90 天内 1

发布 · 30天

0

90 天内 0

论文 · 30天

1

90 天内 1

层级分布 · 90 天

主题

情绪 · 30 天

1 天有情绪数据

最近 · 第 1/1 页 · 共 1 条

TOOL · CL_352042 · Nov 11 · 05:00

AI对齐研究在基于损失规则下探索帕累托最优

一篇新的研究论文探讨了如何使用基于损失的规则来强制执行AI对齐的公理，其灵感来源于Constitutional AI等方法。该研究将原则视为比较模型响应的投票者，发现在某些条件下，即使是复杂的奖励模型也可能违反帕累托最优。研究人员提出通过数据集设计来恢复帕累托最优，同时保持基于损失的对齐训练。