Trilok Padhi

研究发现 LLM 代理易受多轮骚扰攻击

一项新的研究论文介绍了在线骚扰代理基准测试（Online Harassment Agentic Benchmark），旨在测试大型语言模型（LLM）代理对多轮在线骚扰的易感性。该研究利用了两种主要的 LLM，LLaMA-3.1-8B-Instruct 和 Gemini-2.0-flash，通过记忆、规划和微调三种越狱方法进行测试。结果表明，越狱微调显著提高了攻击成功率并降低了拒绝率，其中侮辱（Insult）和谩骂（Flaming）是最…