研究发现AI代码助手生成的代码不安全

像GitHub Copilot这样的AI代码助手经常生成存在安全漏洞的代码，研究表明约有40-45%的AI生成代码存在缺陷。这些模型是在包含不安全模式的庞大公共代码库上训练的，导致了SQL注入和跨站脚本等问题。使用这些工具的开发人员也倾向于对其代码的安全性过于自信，造成了危险的信任差距。一种独特的AI风险是包幻觉，即模型建议不存在的包，攻击者可以通过“slopsquatting”来利用这些包。为了减轻这些风险，AI生成的代码应被视为不受信任的输入，需要严格的人工审查和自动安全检查。 AI

影响 强调了AI代码生成中的关键安全风险，要求开发人员进行更严格的验证和人工监督。

排序理由 详细介绍AI代码生成工具安全缺陷的研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 dev.to — LLM tag 阅读 →

• GitHub Copilot
• New York University
• OWASP
• Stanford University
• Veracode

• 产品
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →