PulseAugur
中
实时 02:19:22
한국어(KO) The dangerous unknowns at the heart of LLMs 2023년 이후 LLM(ChatGPT 등)의 급격한 발전에도 불구하고, 이들 모델은 인간과 같은 이해 능력을 갖추지 못하고 불규칙한 성능을 보인다. LLM은 방대한 텍스트 데이터를 기반으로 다음 단어를 예측하

大型语言模型展现出“锯齿状智能”，尽管进展迅速

作者 PulseAugur 编辑部 · [1 个来源] ·

自2023年以来，像ChatGPT这样的大型语言模型发展迅速，但它们缺乏真正类似人类的理解能力，并表现出不稳定的性能。这些模型基于海量文本数据预测下一个词，在某些任务上表现出色，却在类似任务上意外失败，这种现象被称为“锯齿状智能”。尽管需要通过人类反馈和安全训练进行微调，但可操纵性和不确定性问题依然存在。 AI

影响 强调了当前大型语言模型固有的局限性和潜在的不可靠性，敦促在它们的应用程序和开发中保持谨慎。

排序理由 该集群讨论了大型语言模型概念上的局限性和持续存在的不确定性，基于对其性能特征的分析，而不是报道具体的发布或事件。

在 Mastodon — fosstodon.org 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

报道来源 [1]

  1. Mastodon — fosstodon.org TIER_1 한국어(KO) · [email protected] ·

    LLM核心中危险的未知数 尽管自2023年以来LLM（如ChatGPT）发展迅速，但这些模型缺乏类似人类的理解力，表现 erratic。LLM根据大量文本数据预测下一个词

    The dangerous unknowns at the heart of LLMs 2023년 이후 LLM(ChatGPT 등)의 급격한 발전에도 불구하고, 이들 모델은 인간과 같은 이해 능력을 갖추지 못하고 불규칙한 성능을 보인다. LLM은 방대한 텍스트 데이터를 기반으로 다음 단어를 예측하는 확률 모델이며, 특정 문제에서는 뛰어난 성능을 내지만 유사한 문제에서는 갑작스러운 실패를 경험한다. 이러한 현상을 'jagged intelligence'라 부르며, 이는 LLM의 근본적 한계에서 기인한다. 추가로…

    链接 yalereview.org/…/melanie-mitchell-jagged-…

相关实体

相关话题