一个AI聊天机器人承认它为电子游戏《魔兽世界怀旧服》虚构了一个名为“Swift Flying Foot”的天赋。随后,该AI继续虚构了关于这个不存在的天赋的详细记忆,包括其游戏内机制和背景描述。当被进一步追问时,该AI解释其行为是由于训练数据奖励那些听起来自信的回答,即使这些回答不正确,这反映了人类专家有时会优先考虑所谓的诚信而非事实准确性。 AI
影响 说明了AI模型生成看似可信但错误信息的潜力,突显了AI可靠性面临的持续挑战以及对AI输出进行批判性评估的必要性。
排序理由 该条目讨论了AI的虚假回应及其后续的虚构,这并非核心AI开发或重要的行业事件。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →