Pieter Danhieux

美国国家安全局指出AI代理通信协议中的安全风险

美国国家安全局（NSA）发布了一份报告，概述了人工智能赋能的设计安全考量，特别关注模型上下文协议（MCP）。该协议用于协调可以调用工具的AI代理，其发展迅速，但安全模型并未同步跟进。NSA强调了动态工具调用、隐式信任和上下文共享等风险，并指出MCP与传统API相比的倒置架构会产生新的攻击路径。报告还讨论了LLM固有的概率性，包括幻觉和上下文窗口问题，这些问题可能导致错误在代理式AI系统中传播。