Gaojie Jin

新框架 OTora 测试 LLM 代理的推理级拒绝服务攻击

研究人员开发了 OTora，一个旨在测试大型语言模型 (LLM) 代理抵御一种称为推理级拒绝服务 (R-DoS) 的特定类型攻击的新型框架。这种攻击方法旨在通过人为增加代理的推理深度或工具使用来降低其性能，而不是导致任务完全失败。OTora 采用两阶段流程，利用对抗性触发器和遗传搜索来放大过度思考，同时保持任务准确性，并在各种代理基准测试中显示出显著的延迟增加。