Inspect AI

新基准量化大语言模型沙箱逃逸能力

研究人员开发了SANDBOXESCAPEBENCH，一个旨在安全评估大语言模型（LLMs）突破容器化沙箱环境能力的新基准。该基准以夺旗赛（CTF）挑战的形式实现，模拟了一个在容器内拥有shell访问权限的对抗性代理，并涵盖了各种逃逸机制，包括配置错误、权限错误和内核漏洞。初步研究结果表明，大语言模型能够成功识别并利用这些沙箱内的漏洞，突显了此类评估方法对于确保先进AI代理隔离环境的持续安全性的必要性。