English(EN) Similarity All The Way Up: Multilingual Generalization in LLMs Relies on Language-Level Similarity Structures

大型语言模型的多语言泛化能力与语言相似性结构相关

作者 PulseAugur 编辑部 · [1 个来源] · 2026-07-28 04:00

一篇新的研究论文探讨了大型语言模型（LLMs）如何在不同语言之间进行泛化，特别是那些在其训练数据中代表性较低的语言。该研究提出，成功的多语言泛化能力依赖于大型语言模型内部表征在多大程度上捕捉了语言之间的层级相似性结构。研究人员发现，大型语言模型在很大程度上反映了印欧语系的结构，在其表征空间中将相似的语言分组。这种语言相似性表征与在XNLI等跨语言基准测试上的性能提升密切相关。 AI

影响理解大型语言模型在跨语言泛化方面的能力，可能有助于实现更公平的人工智能发展，并提升在代表性不足的语言任务上的性能。

排序理由一篇发表在arXiv上的研究论文，详细介绍了关于大型语言模型泛化能力的研究发现。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Supantho Rakshit, Adele Goldberg, Henry Conklin · 2026-07-28 04:00

Similarity All The Way Up: Multilingual Generalization in LLMs Relies on Language-Level Similarity Structures

arXiv:2607.22699v1 Announce Type: new Abstract: As Large Language Models (LLMs) grow more capable across diverse tasks, their (in)ability to generalize remains difficult to quantify and poorly understood beyond limited domains. In particular, LLMs are known to struggle generalizi…

报道来源 [1]

Similarity All The Way Up: Multilingual Generalization in LLMs Relies on Language-Level Similarity Structures

相关实体

相关话题