微调大型语言模型通常是更新事实知识的一种无效方法。与其教授新行为，不如使用检索增强生成更有效，它可以在查询时访问和呈现当前信息。与动态事实数据的微调相比，这种方法更快、更便宜且更易于维护。 AI
影响 建议检索增强生成是比微调更有效的更新AI模型事实知识的方法。
排序理由 研究人员关于LLM微调与检索有效性的观点文章。
在 Mastodon — sigmoid.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
微调通常是更新AI事实的错误工具
报道来源 [1]
-
微调往往是错误的工具。它教会模型新的行为，而不是新的事实——对于不断变化的事实，在提问时检索更便宜、更快，并且
Fine-tuning is often the wrong tool. It teaches a model new BEHAVIOUR, not new facts — for facts that change, retrieval at question time is cheaper, faster, and easier to keep current. 90 seconds. # AI # finetuning Written with AI assistance.