Auditopus 通过去中心化审计解决 LLM 公平性洗白问题

一种名为 Auditopus 的新方法已被开发用于大型语言模型（LLM）的鲁棒去中心化公平性审计。该方法解决了公平性洗白（fairwashing）的挑战，即对抗性审计员可能会操纵统计数据，使不公平的 LLM 看起来符合新兴立法。Auditopus 在没有中央服务器的情况下分轮运行，审计员仅共享累积统计向量，而非敏感查询。该系统包含一种防御机制，诚实的审计员会降低其他审计员统计上不一致向量的权重，从而显著减少审计错误，并确保即使有相当比例的对抗性审计员，不公平的 LLM 也不会被错误地归类为公平。 AI

影响 这项研究通过实现鲁棒的公平性验证，可能带来更值得信赖且合规的 LLM 部署。

排序理由 该项目是一篇研究论文，详细介绍了一种审计 LLM 的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

• alphaXiv
• arXiv
• Auditopus
• CatalyzeX Code Finder for Papers
• Connected Papers
• CORE Recommender
• DagsHub
• Gotit.pub
• Hugging Face
• large language models
• Litmaps
• LLMs
• ScienceCast
• scite Smart Citations

• 论文
• 安全
• 政策

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →