SLED-V

Conflux 防御系统可防止 LLM 代理权限升级

研究人员推出 Conflux，这是一种新颖的防御机制，旨在防止 LLM 代理中的权限升级。Conflux 的工作原理是确保代理所采取的任何操作都得到影响其决策过程的所有主体的允许。该系统的核心 ITES 从来源和现有访问控制系统中获得授权，并交叉检查所有影响主体的权限。该论文还详细介绍了用于测试 Conflux 有效性的两个系统级评估器 SLED 和 SLED-V。