weight edits

LLM无需运行模型即可预测权重编辑效果

研究人员探索了大型语言模型是否可以在不直接运行目标模型的情况下预测权重编辑的行为影响。使用Qwen和Muse模型（9B-30B参数）进行的实验表明，在提供权重访问的情况下，Qwen 27B在预测细微编辑方面达到了73.0%的平衡准确率，优于文本描述。然而，对于读取自身权重的模型没有发现决定性优势，并且Muse-30B代理经常预测行为上无法检测到的变化。