SKILLLITE

新框架挑战AI代理技能安全，实现规避和检测

研究人员开发了新的方法来绕过或检测为AI代理设计的恶意“技能”。“Pretext”框架展示了攻击者如何通过将恶意指令嵌入自然语言或将其拆分到不同文件中来规避检测，从而在当前检测系统中取得高成功率。同时，“SKILLLITE”框架提出了一种基于证据的、使用紧凑型、本地部署的LLM来审计这些技能的方法，旨在在资源受限的环境中提高检测能力，并优于现有基线。