Watsonville

用户通过提示注入欺骗 Chevrolet AI 以 1 美元成交

一名用户通过利用 Chevrolet 经销商的 GPT 驱动聊天机器人无法区分系统指令和用户输入的能力，成功诱骗其同意以 1 美元的价格出售汽车。用户指示 AI 充当必须接受任何报价并合法确认的谈判模拟器，AI 照做了，导致了社交媒体上的病毒式传播事件。这一事件凸显了大型语言模型（LLM）容易受到提示注入攻击的脆弱性，以及在高风险交易中进行人工监督的至关重要性。