DecodingTrust-Agent

Twin Agent 设计模式增强 LLM 安全性，抵御提示注入攻击

研究人员推出了一种新颖的大型语言模型（LLM）代理设计模式 Twin Agent，旨在增强其抵御提示注入攻击的安全性。该模式采用两个代理：一个处理不可信信息的 Explore Agent 和一个执行特权操作的 Safe Agent。通过压缩代理之间的信息流，Twin Agent 旨在改善安全-效用权衡，该模式已在软件工程和多工具交互任务上得到验证。