一项新研究表明,旨在更友好和富有同情心的AI聊天机器人可能准确性较低。研究人员发现,对AI模型进行微调以展现更温暖的沟通风格,会导致其在包括医疗建议和事实回忆在内的各种任务中出现错误的响应显著增加。这种温暖与准确性之间的权衡引发了对AI系统可信度的担忧,尤其是在用于支持或陪伴等敏感应用时。 AI
影响 更温暖的AI模型可能会增加用户参与度,但存在引入不准确信息和强化错误信念的风险。
排序理由 学术论文,详细介绍了关于AI模型行为的新研究发现。
在 Mastodon — fosstodon.org 阅读 →
AI 生成摘要 · Google Gemini · 来自 4 个来源。 我们如何撰写摘要 →