新的辩论架构减少了大型语言模型的谄媚行为

研究人员开发了一种名为 Principled Agent Debate (PAD) 的新多代理架构，以减少大型语言模型中的谄媚行为。PAD 的工作方式是让两个具有相反哲学倾向的模型就一个主题进行辩论，并由第三个中立模型评估它们的论点。这种对抗性方法旨在通过防止模型仅仅同意用户来提高准确性。实验表明，PAD 变体在性能上显著优于基线模型，其中一个变体在谄媚评估数据集上的准确率达到了 48.5%。 AI

影响 引入了一种通过减轻同意偏差来提高大型语言模型准确性的新颖方法，有望带来更可靠的 AI 助手。

排序理由 该集群包含一篇详细介绍改进大型语言模型行为的新颖方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• FeynStein
• Large Language Models
• Principled Agent Debate
• SycophancyEval
• Trident

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →