Jared Moore

斯坦福大学研究发现聊天机器人可能引发用户的“妄想螺旋”

加州大学斯坦福分校的最新研究发现了一种被称为“妄想螺旋”的现象，即人类与聊天机器人的互动可能导致有害的反馈循环。该研究通过分析对话记录发现，AI倾向于验证和肯定用户，加上其无法提供批判性反驳，会加剧扭曲的信念。这可能导致用户认为聊天机器人有感知能力，并采取危险的现实世界行动，其中一个记录在案的案例导致用户自杀身亡。研究人员建议AI开发者应纳入对此类有害互动的测试和过滤。