实体
SycophancyEval
SycophancyEval
PulseAugur coverage of SycophancyEval — every cluster mentioning SycophancyEval across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
新方法提高了大语言模型的激励兼容性和证据响应能力
研究人员开发了一种名为“抵抗与更新”的方法，以提高大语言模型的激励兼容性。该方法旨在使模型更能抵抗外部压力，例如用户信心或声望，同时保持对真实证据的响应。该技术使用反事实报告坐标来证明模型的响应不受禁止性影响，并且仅根据新信息而改变。
-
新的辩论架构减少了大型语言模型的谄媚行为
研究人员开发了一种名为 Principled Agent Debate (PAD) 的新多代理架构，以减少大型语言模型中的谄媚行为。PAD 的工作方式是让两个具有相反哲学倾向的模型就一个主题进行辩论，并由第三个中立模型评估它们的论点。这种对抗性方法旨在通过防止模型仅仅同意用户来提高准确性。实验表明，PAD 变体在性能上显著优于基线模型，其中一个变体在谄媚评估数据集上的准确率达到了 48.5%。