Migalhas

巴西法院AI在法律文件中检测到提示注入攻击 · 跟踪1个来源

一家巴西法院的AI系统Galileu成功检测到嵌入在法律文件中的提示注入攻击。隐藏的指令以白色文本写在白色背景上，指示AI表面上质疑该请求。虽然攻击被挫败，但它凸显了间接提示注入日益增长的威胁，Cloud Security Alliance现在认为这是一种实际利用而非理论上的担忧。Google观察到开放网络上此类恶意内容的显著增加，这表明需要为处理外部文档的AI代理提供强大的防御措施。