一项发表在 arXiv 上的新研究调查了当提示中未指定编程语言时,CodeLMs 默认使用 Python 的现象。该研究采用了多种机械分析技术,包括平均消融和激活打补丁,分析了十个开源代码模型和各种语言设置。研究结果表明,这种对 Python 的偏好是实质性的,并且随着模型规模的增大而增长,指令调优会放大这种偏好。研究还强调,这种行为的感知局部化程度高度依赖于所做的分析选择,例如电路提取中使用的组件预算和采用的具体探测方法。 AI
影响 这项研究表明,大型语言模型中观察到的行为可能对分析方法高度敏感,从而影响我们如何解释和归因模型的能力。
排序理由 该集群包含一篇详细介绍 CodeLMs 研究结果的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →