Integrated Values Survey

新研究显示大型语言模型存在文化趋同和测量问题 · 跟踪 2 个来源

两篇新研究论文探讨了大型语言模型（LLMs）的文化对齐问题，揭示了显著的权衡和测量有效性问题。第一篇论文《对齐但趋同》表明，为 LLMs 优化文化对齐会导致多样性丧失，模型会收敛于模仿占主导地位的文化多数的单一响应模式。第二篇论文《LLM 文化对齐中的测量有效性》强调，LLM 的调查响应对提示框架和随机种子高度敏感，常常使其表观文化立场与噪声无法区分。两项研究都表明，目前评估 LLM 文化理解的方法不足，并呼吁采用新的方法来保护文化多…