实体
Anjishnu Mukherjee
Anjishnu Mukherjee
PulseAugur coverage of Anjishnu Mukherjee — every cluster mentioning Anjishnu Mukherjee across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
MAPLE大语言模型通过元数据条件化改进区域感知问答
研究人员开发了MAPLE，这是一系列旨在更有效地处理区域特定信息的新型语言模型。与通常默认为单一、全球占主导地位答案的标准模型不同，MAPLE使用地理元数据（如源URL、国家和大陆）进行预训练。这种条件化允许模型根据指定的区域切换答案，正如在新LocalNewsQA基准上所演示的那样。实验表明，这种元数据条件化预训练提高了准确性和事实切换能力，并且在更大的模型规模下效益会增加。
-
双语AI模型显示隐藏状态差异，尽管嵌入已对齐
一篇题为“双重麻烦：双语预训练在共享语言表示中留下语言条件效应”的新研究论文指出了比较多语言语言模型的一个关键缺陷。研究人员发现，虽然对仅英语模型和双语模型的嵌入空间进行对齐可以使词元嵌入看起来相似，但用于预测的更深层隐藏状态并未对齐。这种在八种不同语言中观察到的差异表明，嵌入对齐可能会掩盖模型内部显著的表示差异，从而影响跨语言迁移和可解释性研究的可靠性。
-
大型语言模型（LLM）的多语言能力是附带的，导致性能不均且脆弱
一篇新论文认为，当前的大型语言模型（LLM）是通过海量、不均衡的网络数据偶然获得多语言能力的，而非通过有意设计来实现多语言能力。这种“附带多语言能力”导致跨语言的性能不均、脆弱且不透明，在实际应用中存在风险。作者们提议转向“设计驱动的多语言能力”，将公平的性能、文化根基和跨语言理解作为核心目标。