PulseAugur
实时 17:03:06
English(EN) How does an LLM "know" the sky is blue?

LLM如何“知道”事实:统计预测 vs. 真正理解

大型语言模型(LLM)通过预测下一个词元(token)来工作,词元可以是一个词或词的一部分,有效地充当高级自动补全系统。虽然它们的核心机制涉及复杂的数学和下一个词元预测,但它们会经历一个关键的微调阶段,在此阶段,人类评估员会评估输出的有用性和准确性。这个微调过程会调整模型,使其倾向于高度评价的响应,从而使其能够连贯地回答编码问题并执行超越简单文本生成的特定任务。LLM的明显智能,例如知道天空是蓝色的,并非源于真正的理解,而是源于从海量数据集中学到的统计模式;模型在“天空是”之后预测“蓝色”,因为这是其训练数据中最常见的人类响应。 AI

影响 解释了LLM知识的统计基础,阐明了“理解”是人类对预测准确性的解释。

排序理由 该条目解释了LLM的内部工作原理及其明显的智能,将其视为对这些模型如何学习和预测的评论,而不是新的发布或研究发现。

在 dev.to — LLM tag 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

LLM如何“知道”事实:统计预测 vs. 真正理解

报道来源 [1]

  1. dev.to — LLM tag TIER_1 English(EN) · Anay Pandya ·

    大型语言模型是如何“知道”天空是蓝色的?

    <p>For most people, LLMs are a magic box that spews out language. Somehow, that language is very similar to "<strong>what a human would say</strong>". "LLMs work on neural networks", "LLMs predict the next words in a sentence", "They're trained on a large set of data", are some o…