New HEIMAT framework automatically debiases language models

研究人员开发了一个名为 HEIMAT 的新框架，用于自动消除语言模型的偏见。该框架解决了现有方法的一些局限性，例如计算成本高、可扩展性问题以及需要手动标注数据。HEIMAT 分两个阶段进行：首先，它使用启发式提示来揭示模型偏见并生成相应的上下文提示；其次，通过最小化模型在这些提示上的预测的 Jensen-Shannon 散度来微调模型。实验表明，HEIMAT 在不同文化背景下能有效减少偏见，同时保留模型自然语言理解能力。 AI

影响 为缓解 AI 系统中的偏见提供了一种更具可扩展性和文化适应性的方法。

排序理由 该集群包含一篇学术论文，详细介绍了一种消除语言模型偏见的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

• alphaXiv
• arXiv
• CatalyzeX
• DagsHub
• Gotit.pub
• Hugging Face
• Jensen-Shannon divergence
• language models
• ScienceCast

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →