Library Hallucinations

LLM 幻觉软件包，构成供应链风险；评估防御措施

研究人员正在调查大型语言模型（LLM）在生成代码时幻觉出不存在的软件包的问题。此问题通过制造可利用的漏洞，对软件供应链构成风险。研究评估了各种防御机制，包括引导解码策略、自我完善和检索增强生成（RAG），以减轻这些幻觉。研究结果表明，虽然 RAG 可以降低幻觉率，但其在不同模型和语言上的有效性各不相同，并且必须将其与生成代码的效用进行权衡。此外，对抗性提示会显著增加幻觉率，这凸显了需要强大的防御措施来应对积极敌对的输入。