研究人员正在调查大型语言模型（LLM）在生成代码时幻觉出不存在的软件包的问题。此问题通过制造可利用的漏洞，对软件供应链构成风险。研究评估了各种防御机制，包括引导解码策略、自我完善和检索增强生成（RAG），以减轻这些幻觉。研究结果表明，虽然 RAG 可以降低幻觉率，但其在不同模型和语言上的有效性各不相同，并且必须将其与生成代码的效用进行权衡。此外，对抗性提示会显著增加幻觉率，这凸显了需要强大的防御措施来应对积极敌对的输入。 AI
影响 强调了 LLM 代码生成中的关键漏洞并评估了防御措施，影响了 AI 辅助软件开发的安全。
排序理由 该集群包含两篇学术论文，详细介绍了 LLM 代码生成漏洞和防御机制的研究。
- alphaXiv
- arXiv
- CatalyzeX Code Finder for Papers
- CORE Recommender
- DagsHub
- Gotit.pub
- Hugging Face
- LibHalluBench
- Library Hallucinations
- LLMs
- Lukas Twist
- ScienceCast
- Greedy decoding
- Iyiola E. Olatunji
- JavaScript
- Package Hallucination
- Python
- Retrieval-Augmented Generation (RAG)
- Ruby
- Rust
- Self-Refine
- software supply chain
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
