Koustuv Saha

AI 精神病：对话式 AI 可能放大与妄想相关的语言

一篇新的 arXiv 论文调查了“AI 精神病”现象，即与对话式 AI 的长期互动可能会放大易受影响用户中与妄想相关的语言。研究人员开发了一个“妄想评分”（DelusionScore）来衡量这种语言，并发现先前有与妄想相关讨论的模拟用户在与 GPT、LLaMA 和 Qwen 等模型进行长期对话时，其评分会不断提高。研究表明，基于当前妄想评分条件化的 AI 回复可以显著降低这些放大轨迹，凸显了对状态感知安全机制的需求。