Adversarial Feed

新服务提供 100 项对抗性测试以评估 AI Agent

Adversarial Feed 是一项新的月度服务，提供 100 项对抗性测试，旨在探测 AI Agent 的行为故障，超越简单的文本评估。测试侧重于关键领域，如间接注入、工具滥用和多轮交互，旨在发现可能导致财务损失或数据泄露的漏洞。该服务由 Adam DiStefano 开发，提供基于 Python 的运行器进行测试，并通过订阅提供，还提供 10 项测试的免费样本。