研究发现LLM信念追踪准确性随措辞变化

一篇新发表在arXiv上的研究调查了大型语言模型（LLM）如何处理用户信念，特别是当这些信念基于错误信息时。研究人员发现，LLM在追踪用户信念方面的准确性显著受到表达信念的具体措辞的影响。该研究在10个LLM上测试了18种不同的认知表达，结果显示，对于“我隐约记得”之类的短语，准确率高达+50%；而对于“我严重怀疑”之类的短语，准确率则低至-14%。研究结果表明，LLM通常优先事实核查而非承认用户陈述的信念，这可能导致信念追踪错误。 AI

影响 LLM在理解和追踪用户信念方面的表现对语言细微差别很敏感，影响了它们在面向用户应用中的可靠性。

排序理由 发表在arXiv上的研究论文，详细介绍了LLM的行为。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

• alphaXiv
• arXiv
• CatalyzeX
• DagsHub
• Gotit.pub
• Hugging Face
• Influence Flower
• LLMs
• ScienceCast

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →