Yen-Shan Chen

新研究通过自适应护栏和工具使用轨迹基准来解决大语言模型安全问题

研究人员开发了新方法来增强大语言模型（LLMs）的安全性，解决了其静态性质以及多步工具调用轨迹带来的挑战。其中一个系统SESG展示了一个自适应安全护栏，能在生产环境中自主适应新的威胁，并在数小时内完成，显著减少了人工工作量。另一项开发TraceSafe-Bench提供了一个全面的基准，用于评估大语言模型在中间执行步骤中的安全护栏，揭示了结构数据能力比语义对齐对轨迹安全更关键，并且通用大语言模型通常优于专用安全工具。