PulseAugur
中
实时 08:21:48
English(EN) Knowing Bias, Doing Better: Mitigating Social Bias in LLMs via Know-Bias Neuron Enhancement

新的KnowBias框架增强LLM神经元以减少社会偏见

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员推出了一种名为KnowBias的新型框架，旨在减轻大型语言模型（LLMs）中的社会偏见。与压制有偏见参数的传统方法不同，KnowBias选择性地增强编码偏见知识的神经元。该方法使用一小组偏见知识问题和基于归因的分析来识别编码偏见的神经元，然后在推理过程中对其进行加强。实验表明，该方法在各种基准测试和LLMs上实现了最先进的去偏见性能，同时保留了通用能力，并且只需要少量数据且无需重新训练。 AI

影响 提供了一种更有效、数据效率更高的方法来减少LLMs中有害的刻板印象，从而可能提高其安全性和泛化能力。

排序理由 该集群包含一篇学术论文，详细介绍了减轻LLMs中偏见的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的KnowBias框架增强LLM神经元以减少社会偏见

报道来源 [1]

  1. arXiv cs.AI TIER_1 English(EN) · Jinhao Pan, Chahat Raj, Anjishnu Mukherjee, Sina Mansouri, Bowen Wei, Shloka Yada, Ziwei Zhu ·

    Knowing Bias, Doing Better: Mitigating Social Bias in LLMs via Know-Bias Neuron Enhancement

    arXiv:2601.21864v2 Announce Type: replace Abstract: Large language models (LLMs) exhibit social biases that reinforce harmful stereotypes, limiting their safe deployment. Most existing debiasing methods adopt a suppressive paradigm by modifying parameters, prompts, or neurons ass…

相关话题