根据AI语言公平研究联盟(Coalition for Language Equity in AI Research)的一项研究,AI模型可能会对使用不太常见语言的用户施加一项隐藏成本,被称为“分词器税”。这种税收的产生是因为某些语言比其他语言需要更多的分词器(AI模型处理的单位),这使得非英语使用者的AI服务更昂贵、更慢。这种差异不仅受语言稀有度的影响,还受书写系统类型的影响,使用分词器不太常见遇到的书写系统的语言处于最大的劣势。虽然分词器的价格正在下降,但研究人员强调,AI实验室有必要在设计未来的分词器时,有意识地更好地适应各种语言和书写系统,以确保在AI经济中的公平参与。 AI
影响 这种不公平可能会限制不太常见语言使用者的参与AI经济,并影响AI服务的质量。
排序理由 一项由研究联盟发布的研究,详细介绍了AI模型处理成本方面基于语言的新不公平现象。[lever_c_demoted from research: ic=1 ai=1.0]
- Activate AI
- Asturian
- Austin
- Bengaluru
- Coalition for Language Equity in AI Research
- Dheemanth Reddy
- ElevenLabs
- Gates Foundation
- Khmer
- Navana.ai
- Ol Chiki
- Pratyush Choudhury
- Raoul Nanavati
- Sarvam
- Tibetan
- Tifinagh
- Wispr Flow
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →