PulseAugur
实时 07:32:12
English(EN) Can Dialects Be Steered Like Languages? Sparse Neurons and Distributed Directions in Arabic LLMs

阿拉伯语大型语言模型可通过神经元分析引导至方言

研究人员探索了在无需微调的情况下,将阿拉伯语大型语言模型(LLMs)引导至生成特定方言的方法。该研究识别出编码方言特定特征的稀疏神经元群体,并证明操纵这些神经元可以影响模型输出。此外,还应用了向量引导方法,在推理过程中提取和注入方言特定激活方向,为基于可解释性的方言生成控制提供了一个框架。 AI

影响 提供了新的可解释性驱动方法,可在无需微调的情况下控制大型语言模型的方言生成。

排序理由 学术论文,详细介绍了控制大型语言模型输出的新颖方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

阿拉伯语大型语言模型可通过神经元分析引导至方言

报道来源 [1]

  1. arXiv cs.CL TIER_1 English(EN) · Kareem Elozeiri, Mervat Abassy, Omar Kallas, Fahim Dalvi, Preslav Nakov, Kentaro Inui, Nadir Durrani ·

    Can Dialects Be Steered Like Languages? Sparse Neurons and Distributed Directions in Arabic LLMs

    arXiv:2607.03936v1 Announce Type: new Abstract: A key challenge in Arabic NLP is the scarcity of dialectal data relative to Modern Standard Arabic (MSA), causing LLMs to overproduce MSA and struggle with dialectally accurate generation. From an interpretability perspective, this …