ADTGuard

新的ADTGuard安全卫士增强了LLM流式推理的安全性

研究人员开发了ADTGuard，一种专为大型语言模型（LLM）流式推理设计的新型安全卫士。该系统通过在释放每个token之前进行检查并逐步优化训练目标来解决当前护栏的局限性。ADTGuard利用深度-时间安全动力学（DTSD）在层和时间上整合安全证据，并利用因果深度路由器（CDR）根据当前文本前缀自适应地选择层。实验表明，ADTGuard以较小的参数量和具有竞争力的延迟实现了强大的流式检测性能。