Library Hallucinations

研究发现 LLM 在代码生成中会幻觉出不存在的库

arXiv 上发表的一项新研究详细介绍了大型语言模型 (LLM) 在生成代码时幻觉出不存在的库的风险。研究人员发现，开发者提示中的变化，包括拼写错误和虚构的库名称，会以很高的比率触发这些幻觉，可能导致构建失败和安全漏洞。为解决此问题，该研究引入了 LibHalluBench，这是一个用于系统评估这些库幻觉的基准，并强调了对安全措施的迫切需求。