Persuasion Knowledge Model

新的PsychJail框架揭示了LLM的心理越狱漏洞

研究人员开发了一个名为PsychJail的新框架，用于探索大型语言模型（LLM）的心理漏洞。该框架利用已建立的社会心理说服技术进行多轮攻击，超越了单轮提示优化。PsychJail在四个已对齐的LLM上实现了平均87.3%的攻击成功率，优于现有的多轮和单轮基线。研究还识别出独特的模型级“指纹”，揭示了说服杠杆如何影响每个模型，暗示了LLM潜在的心理特征。