CodeLMs

研究发现 CodeLMs 因分析选择而默认使用 Python

一项发表在 arXiv 上的新研究调查了当提示中未指定编程语言时，CodeLMs 默认使用 Python 的现象。该研究采用了多种机械分析技术，包括平均消融和激活打补丁，分析了十个开源代码模型和各种语言设置。研究结果表明，这种对 Python 的偏好是实质性的，并且随着模型规模的增大而增长，指令调优会放大这种偏好。研究还强调，这种行为的感知局部化程度高度依赖于所做的分析选择，例如电路提取中使用的组件预算和采用的具体探测方法。