ToolShield

新研究探讨 LLM Agent 的审计、安全和决策 · 已追踪 10 个来源

多篇研究论文正在探索用于评估和改进大型语言模型 (LLM) Agent 性能和安全性的新颖方法。这些研究引入了用于审计通信的框架、分析表示转换以检测安全风险以及开发用于 Agent 恢复的因果评估方法。此外，研究还侧重于空间策略、科学计算的可执行检查以及认知行动的概念，以增强基于 LLM 的系统的决策能力。研究结果强调了理解 Agent 内部状态、通信内容和决策过程对于降低风险和提高可靠性的重要性。