Honeyval

新框架 Honeyval 评估 LLM 驱动的蜜罐对抗 AI 攻击者

研究人员推出 Honeyval，这是一个新的评估框架，旨在评估大型语言模型 (LLM) 作为 HTTP 蜜罐的有效性。该框架通过引入 AI 黑客代理作为攻击者，并将蜜罐置于 16 个后端应用程序中，解决了先前评估方法的局限性。使用 Honeyval 进行的实验表明，与传统的基于规则的系统相比，LLM 驱动的蜜罐可以更长时间地吸引攻击者，并且即使面对先进的 AI 模型也不太可能被检测到，同时还保持成本优势。