Ariun-Erdene Tumurchuluun

研究探究多语言大语言模型中的刻板印象表征

一篇新研究论文调查了刻板印象如何在多语言大语言模型（LLMs）中显现。该研究比较了诸如Llama-3.1-8B、Qwen3-8B和Gemma-2-9B等模型上的线性探测和稀疏自编码器等多种方法，以了解刻板印象相关信息在何处表示以及它如何影响输出。研究结果表明，在这些模型中，探测器的性能峰值远早于归因，并且一小部分特征表现出语言无关的影响，但没有一个是完全类别无关的。