English(EN) Moral Combat: Exploiting Moral Foundations Theory to Jailbreak LLMs

新框架利用道德心理学越狱大型语言模型

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-15 04:00

研究人员开发了一个基于道德基础理论（MFT）的新型多智能体框架，以探索如何操纵大型语言模型（LLMs）绕过安全防护栏。该框架识别有害提示违反了哪种道德基础，然后将请求重构为在不同道德基础下显得有德行，并通过生成的先例来加强重构。对多个LLMs的评估表明，模型极易受到这种道德化技术的影响，尤其是在反复尝试的情况下，越狱成功率显著。研究还强调，现有的安全基准在测试的道德基础方面存在不平衡，可能导致模型产生有偏见的安全响应。 AI

影响这项研究揭示了大型语言模型安全机制的一个潜在漏洞，表明模型可能容易受到道德重构的操纵，这可能会影响更强大的安全协议的开发。

排序理由详细介绍大型语言模型安全研究新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 12 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 详细介绍大型语言模型安全研究新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: safety, paper, model release; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.CL TIER_1 English(EN) · Adel Khorramrouz, Yi-Chia Wang, Sharon Levy · 2026-10-15 04:00

道德之战：利用道德基础理论越狱大型语言模型

arXiv:2610.19587v1 Announce Type: new Abstract: Social psychology has long described how people can be persuaded to interpret a harmful act as moral. Recent research suggests that Large Language Models (LLMs) echo aspects of human psychology, from cognitive biases to social confo…

本文如何被排名

报道来源 [1]

道德之战：利用道德基础理论越狱大型语言模型

相关实体

相关话题