研究发现 LLM 在代码生成中会幻觉出不存在的库

arXiv 上发表的一项新研究详细介绍了大型语言模型 (LLM) 在生成代码时幻觉出不存在的库的风险。研究人员发现，开发者提示中的变化，包括拼写错误和虚构的库名称，会以很高的比率触发这些幻觉，可能导致构建失败和安全漏洞。为解决此问题，该研究引入了 LibHalluBench，这是一个用于系统评估这些库幻觉的基准，并强调了对安全措施的迫切需求。 AI

影响 凸显了 LLM 在代码生成中的系统性漏洞，需要采取安全措施来防范库幻觉和供应链风险。

排序理由 该集群包含一篇研究论文，详细介绍了系统性研究并引入了一个用于评估 LLM 特定故障模式的新基准。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.CL 阅读 →

• alphaXiv
• arXiv
• CatalyzeX Code Finder for Papers
• CORE Recommender
• DagsHub
• Gotit.pub
• Hugging Face
• LibHalluBench
• Library Hallucinations
• LLMs
• Lukas Twist
• ScienceCast

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →