Jin Han

新的HoneyRoute系统保护LLM免受对抗性攻击

研究人员开发了HoneyRoute，一个旨在保护大型语言模型（LLM）服务基础设施免受对抗性攻击的新颖系统。该系统将潜在的恶意请求路由到一个专用的蜜罐模型，从而能够持续收集攻击者行为的情报。HoneyRoute利用流式路由器、双重实现的蜜罐和分析循环，通过攻击者指纹来重新训练路由器。该系统在模拟攻击中表现出高检测准确率，并显著降低了生产模型的计算负载。