PulseAugur
实时 20:26:06
English(EN) A model can sound like it knows a drug—even when it doesn’t.

研究发现,大型语言模型常基于词语结构虚构药物知识

来自德克萨斯大学奥斯汀分校、东北大学和德克萨斯大学MD安德森癌症中心的研究人员发现,大型语言模型(LLMs)通常基于其语言结构而非实际的药理学理解来表现出对药物的了解。他们利用Olmo模型调查了这一现象,发现LLMs倾向于从词语形态推断药物属性,而不是拥有真正的领域特定知识。 AI

影响 凸显了LLMs在领域特定知识方面的关键局限性,可能影响其在医疗保健和药物发现领域的应用。

排序理由 研究论文,详细介绍了关于LLM知识局限性的发现。[lever_c_demoted from research: ic=1 ai=1.0]

在 Bluesky Jetstream — AI desk 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

研究发现,大型语言模型常基于词语结构虚构药物知识

报道来源 [1]

  1. Bluesky Jetstream — AI desk TIER_1 English(EN) · ai2.bsky.social ·

    A model can sound like it knows a drug—even when it doesn’t.

    A model can sound like it knows a drug—even when it doesn’t. Researchers at @utaustin.bsky.social, @northeasternu.bsky.social, & @mdanderson.bsky.social found LLMs often lack drug-specific knowledge and instead lean on morphology. They used Olmo to trace why. 🧵 buff.ly/PuyfnCq