OneLinkWins

研究发现 AI 代码生成器会生成不存在的包 · 跟踪 4 个来源

最近在美国大西洋安全会议（USENIX Security Symposium）上发表的一项研究表明，AI 代码生成模型会以相当高的比例生成不存在的包名称，其中 19.7% 的推荐包是虚构的。这个问题在开源模型中尤为普遍，其虚构率（21.7%）高于商业模型（5.2%）。研究还强调，这些虚构中有很大一部分是确定性的，这意味着攻击者可以注册这些虚构的包名称，并在安全措施赶上之前利用该漏洞。