DecodingTrust-Agent

新方法压缩大语言模型代理上下文，以提高安全性和效率

研究人员开发了新的方法来压缩大语言模型（LLM）代理的上下文，以提高效率和安全性。一种方法是“Twin Agent”，它将代理分为用于处理不受信任信息的“Explore Agent”和用于执行特权操作的“Safe Agent”，并使用紧凑的提示来维持效用同时防止攻击。另一种方法是“Distil”，它使用统计上的非劣性检验来确保上下文压缩不会改变代理的决策过程，在SWE-bench任务上实现了与完整上下文相当的性能。