Adel Khorramrouz

新框架利用道德心理学越狱大型语言模型

研究人员开发了一个基于道德基础理论（MFT）的新型多智能体框架，以探索如何操纵大型语言模型（LLMs）绕过安全防护栏。该框架识别有害提示违反了哪种道德基础，然后将请求重构为在不同道德基础下显得有德行，并通过生成的先例来加强重构。对多个LLMs的评估表明，模型极易受到这种道德化技术的影响，尤其是在反复尝试的情况下，越狱成功率显著。研究还强调，现有的安全基准在测试的道德基础方面存在不平衡，可能导致模型产生有偏见的安全响应。