English(EN) One Vector or Many? Clustered Optimal-Transport Steering under Quantization

新的CHaRS方法引导语言模型减少毒性

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-31 04:00

研究人员开发了一种新的引导语言模型激活的方法，称为聚类最优传输引导（CHaRS）。该技术使用最优传输来配对类别簇，并根据隐藏状态与这些簇的接近程度来移动它们，提供了添加单个向量的常见做法的一种替代方案。在Gemma-2-2B和Granite-3-1-2B模型上的实验表明，CHaRS，特别是将token路由到最近簇的变体，与标准方法相比，即使在INT8和NF4量化下，也能显著降低毒性。 AI

影响引入了一种缓解语言模型毒性的新颖技术，有望提高其安全性和可靠性。

排序理由学术论文，详细介绍了一种新的语言模型激活引导方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 0 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 学术论文，详细介绍了一种新的语言模型激活引导方法。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, safety; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: 3 days old; Aged out of breaking-news scoring windows; ranking reflects the durable signal from the full source set.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Illia Makarov · 2026-10-31 04:00

一个向量还是多个？量化下的聚类最优传输转向

arXiv:2610.40055v1 Announce Type: cross Abstract: Activation steering changes what a language model generates by editing its hidden states at inference time. Its most common form adds one vector, the difference of class means (DiM), to every hidden state. CHaRS (concept heterogen…

本文如何被排名

报道来源 [1]

一个向量还是多个？量化下的聚类最优传输转向

相关实体

相关话题