PulseAugur
中
实时 08:17:14
English(EN) Recovering Lesion Parameters from Aphasic Picture Naming Error Profiles in Large Language Models

大型语言模型病灶参数恢复以模拟失语症错误

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了一种新颖的方法，用于恢复大型语言模型（LLM）中的病灶参数，以模拟特定的神经缺陷，例如在失语症中看到的缺陷。通过训练一个神经网络将图片命名任务的错误剖面映射回病灶参数（如修改百分比和噪声sigma），他们证明了这些参数可以以合理的准确性恢复。这种方法为理解Transformer计算提供了一条新途径，并已显示出泛化到真实患者数据的潜力，能够区分不同中风幸存者综合征。 AI

影响 这项研究为大型语言模型的解释性提供了一个新颖的框架，可能有助于理解模型的行为及其与认知功能的关系。

排序理由 该集群包含一篇学术论文，详细介绍了一种新的大型语言模型解释性方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

大型语言模型病灶参数恢复以模拟失语症错误

报道来源 [1]

  1. arXiv cs.CL TIER_1 English(EN) · Yong Yang, Roger Newman-Norlund, Xiang Guan, Saeed Ahmadi, Regan Willis, Nadra Salman, Kalil Warren, Sophie Arheix-Parras, Srihari Nelakuditi, Leonardo Bonilha, Christopher Rorden, Rutvik H. Desai, Julius Fridriksson ·

    从失语症患者的图片命名错误模式中恢复大型语言模型中的病灶参数

    arXiv:2608.06429v1 Announce Type: new Abstract: Interpretability methods for large language models (LLMs) describe internal state but do not directly test whether that state is causally sufficient to produce the observed behavior. In earlier work, we lesioned LLMs to produce erro…

相关实体

相关话题