EvoHeir

新研究解决了自进化语言模型中的次优更新问题

一篇题为“选择而非学习：选择模型未来”的新研究论文介绍了一种改进自进化语言模型的新方法。该论文识别出“选择到更新的差距”，即当前模型经常继承次优更新。为解决此问题，提出的 HeirCommit 方法使用新的评估问题来决定是否保留更新后的模型，而 EvoHeir 则分离参数和经验继承，在确认之前优化更新。这些方法显著减少了有害更新的接受率，并增强了通用推理能力。