arXiv上的一篇新研究论文表明，对LLM编码助手提示的微小更改会在生成的代码中引入重大的安全漏洞。该研究将token级别的变异应用于多种模型和编程语言的提示，发现即使是单个字符的更改也可能使代码从安全变为易受攻击。对模型内部状态的分析表明，这些漏洞部分编码在提示表示中，输入处理缺陷比安全默认缺陷更可预测。 AI
影响 微小的提示变化可能在LLM生成的代码中引入安全风险，需要在开发过程中进行新的安全检查。
排序理由 该集群包含一篇发表在arXiv上的研究论文，详细介绍了关于LLM漏洞的发现。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →
arXiv:2605.29737v1 Announce Type: cross Abstract: LLM-based coding assistants are seeing rapid adoption, offering substantial gains in developer productivity. As organizations increasingly ship code these agents produce, the security of that code becomes critical. Prior work has …
LLM-based coding assistants are seeing rapid adoption, offering substantial gains in developer productivity. As organizations increasingly ship code these agents produce, the security of that code becomes critical. Prior work has shown that minor prompt perturbations degrade the …