Hisayoshi Yurimoto

AI 直接编辑 LLM 权重，大幅提升 Qwen 分数

研究人员开发了一种名为“权重空间编程”的方法，无需传统训练即可编辑大型语言模型。使用此技术，一个名为 Astra 的 AI 成功修改了 Qwen3.5-0.8B，通过修复与重复输出相关的错误，将其 MATH-500 分数从 7.9% 提高到 48.1%。相比之下，在类似条件下，Gemma 3 270M 的分数仅从 6.8% 提高到 7.0%。这项进展允许通过直接操作权重来调试和优化模型，尽管它不会赋予新的知识或能力。