Aleksandra Urman

Text-to-image AI systems show cultural bias from hidden prompt revisions

一项新发表在arXiv上的研究指出，提示词修订是文本到图像生成系统中文化偏见的一个重要来源。研究人员开发了一个名为WORLDVIEW的基准，包含15种语言的8,960个提示词，以审计这种偏见。他们对DALL·E 3、Imagen-4和GPT-Image-1.5的分析显示，这些系统严重标记和刻板化非西方和非英语语境，这种偏见源于提示词修订层本身，而非核心生成模型。研究强调，需要审计部署中的系统，包括其隐藏的修订过程，以有效解决文化偏见。