4-billion-parameter

开发者发现LLM训练的陷阱：性能提升掩盖了潜在问题

一位开发者在为Eterna Clarity操作系统训练一个拥有40亿参数的本地LLM时遇到了问题。尽管在基准测试中取得了满分，但该模型的其他方面性能却有所下降，这凸显了稳定性-可塑性问题，即有针对性的改进可能会无意中损害现有能力。开发者了解到，任何新行为都必须与保留的行为进行评估，并且一旦基准测试影响了训练数据或选择过程，其有效性就会降低。