实体
Anjishnu Mukherjee
Anjishnu Mukherjee
PulseAugur coverage of Anjishnu Mukherjee — every cluster mentioning Anjishnu Mukherjee across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
MAPLE大语言模型通过元数据条件化改进区域感知问答
研究人员开发了MAPLE，这是一系列旨在更有效地处理区域特定信息的新型语言模型。与通常默认为单一、全球占主导地位答案的标准模型不同，MAPLE使用地理元数据（如源URL、国家和大陆）进行预训练。这种条件化允许模型根据指定的区域切换答案，正如在新LocalNewsQA基准上所演示的那样。实验表明，这种元数据条件化预训练提高了准确性和事实切换能力，并且在更大的模型规模下效益会增加。
-
双语人工智能模型显示出隐藏状态不匹配，尽管嵌入已对齐
研究人员发现，双语语言模型（尤其是仅解码器模型）的评估方式存在一个重大问题。当嵌入空间对齐以比较在不同语言集上训练的模型时，用于预测的更深层隐藏状态并未显示出类似的对齐。这种差异在各种语言和控制方法中持续存在，表明嵌入对齐可能会掩盖内部语言表示的基本差异。研究表明，这种不匹配发生在上下文处理过程中，影响了那些假设可互换对齐模型的下游研究的可靠性。
-
大型语言模型（LLM）的多语言能力是附带的，导致性能不均且脆弱
一篇新论文认为，当前的大型语言模型（LLM）是通过海量、不均衡的网络数据偶然获得多语言能力的，而非通过有意设计来实现多语言能力。这种“附带多语言能力”导致跨语言的性能不均、脆弱且不透明，在实际应用中存在风险。作者们提议转向“设计驱动的多语言能力”，将公平的性能、文化根基和跨语言理解作为核心目标。