Aarm

AI 安全专家警告不要使用基于 LLM 的代理操作控制

一位 AI 安全专家反对使用大型语言模型 (LLM) 作为 AI 代理操作的最终决策者，并提出了两个主要担忧。首先，使用一个 LLM 来判断另一个 LLM 的操作会引入相同的提示注入和操纵漏洞，本质上是创建了一个“模型监视模型”，具有相同的固有弱点。其次，LLM 内在的非确定性意味着关键操作可能一天被允许，第二天被拒绝，这使得它在需要一致、可审计结果的安全敏感决策方面不可靠。