Multi-Agent LLM Safety

新研究应对LLM代理可审计性和多智能体安全风险

两篇新研究论文探讨了大语言模型（LLM）安全和企业应用的关键方面。第一篇论文介绍了一种“工具链工程”方法，通过确定性的代码、清单和验证工件来创建可审计的LLM代理，确保其来源可追溯和行为可控。第二篇论文提出了一种受控对比设计，以区分多智能体LLM系统中的安全风险，区分操作重构、规划器行为和委托框架，并发现重构是GPT、Gemini和DeepSeek等模型面临的重大风险，而Claude的抵抗力更强。