English(EN) What, Where, and How: Disentangling the Roles of Task, Language, and Model in Code Model Representations

代码模型根据任务和模型架构以不同方式表示概念

作者 PulseAugur 编辑部 · [1 个来源] · 2026-07-24 04:00

一项新的研究论文探讨了代码语言模型的内部表示，特别比较了 Qwen2.5-Coder-7B 和 DeepSeek-Coder-V1-6.7B 在 Python 和 Rust 任务上的表现。研究发现，虽然任务决定了表示的*概念是什么*，但具体模型决定了这些概念在模型层中的*位置在哪里*以及*如何*发展其表示。值得注意的是，Rust 结构比 Python 表现出更具概念特异性的电路，并且两个模型在语言之间共享神经元，其中 DeepSeek 比 Qwen 表现出更多的共享神经元。 AI

影响为理解代码模型的内部工作原理提供了见解，可能指导未来的架构改进和训练策略。

排序理由学术论文，详细介绍了对代码模型表示的新颖分析。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 0 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 学术论文，详细介绍了对代码模型表示的新颖分析。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, model release; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: 76 days old; Aged out of breaking-news scoring windows; ranking reflects the durable signal from the full source set.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.CL TIER_1 English(EN) · Piotr Wilam · 2026-07-24 04:00

是什么、在哪里以及如何：解析任务、语言和模型在代码模型表示中的作用

arXiv:2607.21491v1 Announce Type: new Abstract: Do independently trained language models come to represent the same thing in the same way? We answer for code, extending a recently introduced concept-circuit extraction method to a 2x2 design -- Python and Rust crossed with Qwen2.5…

本文如何被排名

报道来源 [1]

是什么、在哪里以及如何：解析任务、语言和模型在代码模型表示中的作用

相关实体

相关话题