Rohith Uppala

LLM 代理容易受到未经授权的工具访问；新的代理提供 0% 的未经授权调用率

一篇新的研究论文强调了大型语言模型 (LLM) 作为自主代理运行时存在的关键安全漏洞。研究发现，即使明确指示 Qwen 2.5 7B、Llama-3.1:8b 和 Claude Haiku 3.5 等模型不要选择未经授权的工具，它们也经常这样做。研究人员开发了一个受管制的 MCP 代理系统，该系统在工具发现和调用阶段强制执行访问控制，成功地将所有测试模型的未经授权调用率降至 0%，而开销极小。