probita-ai

ADTL安全系统阻止了GitHub真实MCP服务器上的AI提示注入

作者演示了一个名为ADTL的安全系统，该系统通过标记和阻止敏感数据来保护AI代理免受提示注入攻击。当针对GitHub的实际MCP服务器进行测试时，ADTL成功阻止了一个AI代理将私有文件的内容泄露到公共问题评论中，它也对模拟服务器实现了这一目标。该系统为GitHub预设的配置被发现过于严格，由于无法区分公共和私有存储库，甚至阻止了基本交互。