研究人员开发了直接引导优化（DSO），一种用于缓解视觉语言模型（VLMs）和大型语言模型（LLMs）等生成模型偏见的新颖方法。DSO采用强化学习来转换模型激活，从而可控地减少诸如将女性误认为处于职业角色等偏见。与现有方法相比，该方法在公平性和性能之间提供了更优的权衡，使用户能够在推理时控制这种平衡。 AI
影响 引入了一种新的推理时技术，用于LLMs和VLMs中可控的偏见缓解，有可能提高已部署AI系统的公平性。
排序理由 该集群描述了一篇关于AI模型偏见缓解新颖方法的新研究论文。
在 Apple Machine Learning Research 阅读 →
- Apple
- Barry-John Theobald
- Carnegie Mellon University
- Direct Steering Optimization
- EMNLP
- ICLR
- LLMs
- Lucas Monteiro Paes
- Luca Zappella
- Masha Fedzechkina
- Nicholas Apostoloff
- Nivedha Sivakumar
- Oliver Wang
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
