Lilian Weng 的最新博文深入探讨了大型语言模型中的外在幻觉，将其定义为捏造的、未基于所提供上下文或世界知识的内容。文章探讨了预训练数据中的问题以及微调过程中的学习过程如何导致这些事实性不准确。研究表明，虽然模型在微调过程中难以学习新信息，但试图这样做却可能适得其反地增加其产生幻觉的倾向。 AI
排序理由 博文讨论了关于LLM幻觉及其原因的研究。
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
LLM中的外在幻觉
报道来源 [1]
-
Extrinsic Hallucinations in LLMs
<p>Hallucination in large language models usually refers to the model generating unfaithful, fabricated, inconsistent, or nonsensical content. As a term, hallucination has been somewhat generalized to cases when the model makes mistakes. Here, I would like to narrow down the prob…