Verizon 2026 DBIR

Anthropic报告详述AI滥用转向代理式攻击

Anthropic发布了一份报告，详细说明了恶意行为者如何滥用AI模型，特别是关注从简单的恶意软件编写转向更复杂的代理式行为，如在网络内横向移动。报告强调，像MITRE ATT&CK这样的现有安全框架未能完全捕捉到AI驱动的编排所带来的风险，在这种情况下，模型可以在极少人工干预的情况下执行多步攻击。Anthropic自身的网络安全措施，如Glasswing项目，旨在通过在推理阶段检测恶意活动来缓解这些风险，为使用托管API的开发者提供防御优势。