研究发现AI安全训练数据存在语言特定差距

arXiv上发表的一项新研究强调了AI安全训练数据中存在的显著语言特定差距，特别是对于豪萨语和斯瓦希里语等低资源语言。研究人员发现，声称广泛的多语言安全覆盖在审查下往往站不住脚，数据来源、标注可靠性和危害分类覆盖方面的问题以部分与资源水平相关的模式反复出现。值得注意的是，在所研究的非洲语言中，诸如自残和性内容等类别缺乏母语覆盖，而这一差距并非仅由资源水平决定。研究结果表明，这些数据缺陷可能导致多语言越狱鲁棒性方面持续存在不对称性，作者提出了可重用的审计方法和改进建议。 AI

影响 凸显了可能阻碍AI在不同语言之间公平安全的关键数据差距，可能影响全球AI部署和用户信任。

排序理由 该集群包含一篇发表在arXiv上的研究论文，详细介绍了实证研究结果并提出了一种新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

• arXiv
• Chialuka Prisca-Mary Onuoha
• French
• Hausa
• Hugging Face
• Swahili

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →