研究人员开发了 EpiSEM-Bench，一个旨在评估语言模型代理在缺失证据场景下的安全性和证据恢复能力的新基准。该基准特别针对工具响应中遗漏关键事实的场景，这些遗漏可能导致代理在收到良性用户请求时执行违禁操作。EpiSEM-Bench 包含六个领域共 300 个任务对，用于衡量不安全执行情况以及代理从缺失证据中恢复的能力。测试显示，在遗漏处理、证据获取和适当行动方面的鲁棒性方面，十个被评估模型之间存在显著差异，这表明虽然恢复机制可以减少不安全执行，但代理在获取和利用缺失信息方面的有效性各不相同。 AI
影响 该基准将通过识别大语言模型代理在处理不完整信息方面的弱点，帮助开发者提高其安全性和可靠性。
排序理由 该集群描述了一个用于评估大语言模型代理的新基准，该基准发表在 arXiv 的一篇学术论文中。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
