Corgea

AI助手成功抵御2000多次提示注入尝试

一项涉及2000多名个人试图入侵名为Fiu的AI助手的实验，该助手由Anthropic的Claude Opus 4.6提供支持，未能提取敏感信息。尽管进行了数千次电子邮件尝试和复杂的社会工程策略，该AI仍成功抵御了提示注入攻击，证明了当前针对前沿模型的训练方法的有效性。该实验产生了超过500美元的API成本，并由于入站电子邮件量大导致Google账户被暂时停用，但最终增强了对先进AI助手在此类威胁面前安全性的信心。