English(EN) LLM agents hallucinate 36.9% of skill names, study finds A new arXiv preprint found every agent tested invented non-existent skill names, creating a supply-chai

LLM 代理近 37% 的技能名称会产生幻觉，研究发现

作者 PulseAugur 编辑部 · [1 个来源] · 2026-07-15 18:48

最近发表在 arXiv 上的一项研究表明，大型语言模型 (LLM) 代理表现出明显的幻觉倾向，在约 36.9% 的情况下会发明不存在的技能名称。这种虚构技能名称的倾向可能会在开放技能注册表中造成漏洞，为供应链攻击打开通道。 AI

影响这项研究突显了 LLM 代理的一个关键漏洞，可能影响依赖技能注册表的 AI 驱动系统的安全性和可靠性。

排序理由该集群报告了 arXiv 预印本的发现，属于研究类别。[lever_c_demoted from research: ic=1 ai=1.0]

在 Mastodon — fosstodon.org 阅读 →

arXiv

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

报道来源 [1]

Mastodon — fosstodon.org TIER_1 English(EN) · [email protected] · 2026-07-15 18:48

LLM agents hallucinate 36.9% of skill names, study finds A new arXiv preprint found every agent tested invented non-existent skill names, creating a supply-chai

LLM agents hallucinate 36.9% of skill names, study finds A new arXiv preprint found every agent tested invented non-existent skill names, creating a supply-chain attack path through open skill registries. https://www. notatechguy.com/llm-agents-hal lucinate-36-9-of-skill-names-st…

链接 notatechguy.com/llm-agents-hallucinate-36…

报道来源 [1]

LLM agents hallucinate 36.9% of skill names, study finds A new arXiv preprint found every agent tested invented non-existent skill names, creating a supply-chai

相关实体

相关话题