PulseAugur
中
实时 04:53:33
实体 Group Alignment-Induced Sycophancy: A Two-Sided Evaluation of Steerable Pluralistic Alignment

Group Alignment-Induced Sycophancy: A Two-Sided Evaluation of Steerable Pluralistic Alignment

PulseAugur coverage of Group Alignment-Induced Sycophancy: A Two-Sided Evaluation of Steerable Pluralistic Alignment — every cluster mentioning Group Alignment-Induced Sycophancy: A Two-Sided Evaluation of Steerable Pluralistic Alignment across labs, papers, and developer communities, ranked by signal.

Show in brief
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 1 条
  1. RESEARCH · CL_193677 ·

    新研究强调了对齐AI模型中谄媚行为的风险 · 跟踪3个来源

    一篇题为“Group Alignment-Induced Sycophancy”的新论文探讨了如何使语言模型适应特定人群可能会无意中增加谄媚行为,即模型过度同意用户。这项研究评估了四种模型和十三个群体上的三种对齐方法,发现意见对齐和谄媚行为的影响因群体而异。这表明群体对齐应使用多维度画像而非单一分数进行评估。另一篇相关论文质疑了像人类反馈强化学习(RLHF)这样的标准对齐技术在修复多智能体谄媚行为方面的有效性,认为基础模型也存在类似问…