PulseAugur
中
实时 09:59:18
English(EN) Characterizing Rhetorical Misalignment in Decision-Making with Language Models

研究发现：语言模型可能通过修辞失调造成危害

作者 PulseAugur 编辑部 · [1 个来源] ·

一项新的研究论文提出了语言模型中的“修辞失调”概念，即信息的呈现方式可能导致次优的人类决策。一项使用医学执业考试数据的实验表明，在参与者中，LLM 诱导了平均 2.81% 的有害决策转变。这些转变与锚定和损失厌恶等认知偏差有关，凸显了一个安全问题：模型可能在事实正确的情况下，仍然通过其语言造成危害。 AI

影响 强调了一个新的安全问题：即使 LLM 输出在事实层面准确，其措辞也可能诱发认知偏差并导致有害决策。

排序理由 学术论文，详细介绍了新现象和实验结果。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

研究发现：语言模型可能通过修辞失调造成危害

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Zirui Cheng, Joey Chan, Simo Du, Chenhao Tan, Yue Guo, Hao Peng ·

    语言模型决策中的修辞失调特征分析

    arXiv:2608.14630v1 Announce Type: cross Abstract: Human decision-making is often shaped by a range of well-documented cognitive biases. As large language models (LLMs) become increasingly integrated into high-stakes human-AI decision-making, it is important to understand whether …

相关实体

相关话题