ExtendAttack

新的RecurGuard系统可检测LLM推理令牌消耗攻击

研究人员开发了RecurGuard，一个新颖的运行时监控系统，旨在检测和防止针对大型语言模型的拒绝服务攻击。这些攻击通过诱导模型在诱饵任务上消耗过多的令牌来利用模型的推理能力，从而导致成本增加且没有有用的输出。RecurGuard实时分析模型的推理轨迹，跟踪复发率和体积增长等信号，以识别异常行为并提前终止生成。评估表明，RecurGuard在标准任务上以较低的误报率有效检测了高比例的已知攻击，尽管自适应攻击仍然是一个挑战。