Race and Ethnicity Cues

研究揭示大型语言模型如何处理种族和民族线索

一项新近发表在arXiv上的研究，探讨了大型语言模型（LLMs）如何处理和利用与种族和民族相关的线索。研究人员使用可解释性技术分析了三个开源模型，发现对人口统计信息的敏感性分布在内部单元中，并且常常与地理、语言和文化联想等语义方面纠缠在一起。虽然对特定单元的干预对有偏见的预测模式产生了一定影响，但显著的残留效应表明，有效的缓解措施需要对这些分布式的、任务特定的机制有更深入的理解。