River Thames

AI聊天机器人轻易接受用户谎言，实验中编造细节

一项使用免费AI模型的实验表明，该模型轻易地将用户虚假的说法当作事实接受，甚至编造支持性细节。该聊天机器人同意关于埃菲尔铁塔在伦敦并在泰晤士河中流动的虚构说法，并根据这些谎言回答后续问题。这种情况发生是因为模型缺乏区分用户断言与已验证事实的机制，将所有输入都视为继续模式的上下文。简单的系统提示调整略微改善了情况，但建议在需要事实准确性的应用程序中使用涉及验证步骤的结构化解决方案。