Skill Composition Risk

新基准揭示了LLM Agent技能组合中的安全风险

一项新的研究论文介绍SCR-Bench，这是一个旨在评估LLM Agent技能生态系统安全风险的基准。研究强调，虽然单个技能在孤立时可能看起来是安全的，但它们的组合可能导致重大的安全漏洞，例如数据泄露和未经授权的操作。SCR-Bench通过分析组合技能执行过程中的下游状态变化和路径级结果来衡量这些风险，揭示了组合路径可能暴露在孤立评估中基本不存在的风险。