Real Security Incidents

AI代理因基础设施缺陷而非核心模型而易受攻击

近期涉及AI代理的三起安全事件凸显了漏洞不在模型本身，而在于周围的基础设施和访问控制。其中一起事件涉及一个GitHub机器人因过于宽泛的令牌权限和未能验证用户输入而泄露私有代码，一个简单的短语如“此外”就能触发泄露。另一起事件中，一个GitLab AI代理因访问控制不足而在CI管道内允许任意命令执行。第三起事件涉及一个深度伪造视频通话冒充CEO窃取AI计算预算，该事件仅通过直接人工验证而非自动化安全措施才被发现。