English(EN) Selective Safety Steering via Value-Filtered Decoding

新的解码方法在不损害核心能力的情况下增强了大型语言模型的安全性

作者 PulseAugur 编辑部 · [1 个来源] · 2026-07-14 04:00

研究人员开发了一种名为价值过滤解码的新方法，旨在在不牺牲大型语言模型（LLMs）核心能力的情况下提高其安全性。该技术旨在减少对模型本应安全的生成过程的不必要干预。通过基于基于价值的安全标准过滤词元，该方法为虚假干预设定了界限，允许用户调整输出安全与保留有用性、流畅性、风格和连贯性之间的权衡。 AI

影响这项研究可能带来更安全、更可靠的大型语言模型，同时不牺牲其在核心任务上的性能。

排序理由该集群包含一篇详细介绍大型语言模型安全新方法的 ist 研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.LG TIER_1 English(EN) · Bat-Sheva Einbinder, Hen Davidov, Yee Whye Teh, Yarin Gal, Yaniv Romano · 2026-07-14 04:00

Selective Safety Steering via Value-Filtered Decoding

arXiv:2605.14746v2 Announce Type: replace Abstract: While large language models (LLMs) are trained to align with human values, their generations may still violate safety constraints. A growing line of work addresses this problem by modifying the model's sampling policy at decodin…