Apertus models

新工具通过聚合随机生成来可视化隐藏的LLM偏见

研究人员开发了TreeTracer，一个旨在揭示大型语言模型（LLMs）中隐藏偏见的视觉分析工具。与检查单个输出或使用静态指标的传统方法不同，TreeTracer将数百个随机生成聚合到分层结构中。这使得对语义上下文进行更全面的比较，并有助于检测代表性危害，如代词压制和对话边缘化。对GPT-2 XL与Apertus模型进行比较的案例研究证明了TreeTracer在揭示这些偏见方面的有效性。