English(EN) CS-Guard: Benchmarking LLM Guardrails for Code Generation Security

新的CS-Guard基准测试显示，LLM防护栏未能阻止恶意代码生成

作者 PulseAugur 编辑部 · [1 个来源] · 2026-09-11 04:00

一个名为CS-Guard的新基准测试已被开发出来，用于评估大型语言模型（LLM）防护栏在防止生成恶意代码方面的有效性。该基准测试包括超过1000个文本到代码生成的提示和331个代码到代码生成的提示，并结合了越狱攻击和一种新颖的虚构场景攻击。对七个LLM上的九个防护栏进行的实证测试显示出显著的漏洞，文本到代码生成的攻击成功率高达50%，代码到代码生成的攻击成功率接近100%，这引起了对实际软件开发的担忧。 AI

影响突出了LLM中关键的安全漏洞，可能影响AI在敏感代码生成任务中的应用。

排序理由该项目描述了一个新的学术基准测试和研究论文，评估LLM安全防护栏。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 11 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Tool; 该项目描述了一个新的学术基准测试和研究论文，评估LLM安全防护栏。[lever_c_demoted from research: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: paper, safety, product; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Same-day; Cluster formed today. Ranking reflects the current source set at time of score.

完整方法见我们的编辑标准。

报道来源 [1]

arXiv cs.AI TIER_1 English(EN) · Jinyang Li, Mingyu Guo, Hung X. Nguyen · 2026-09-11 04:00

CS-Guard：为代码生成安全性对 LLM 护栏进行基准测试

arXiv:2609.09798v1 Announce Type: cross Abstract: Large language models (LLMs) have been ex- ploited to generate malware, but the effective- ness of guardrails for code generation secu- rity remains unclear. We introduce CS-Guard, the first benchmark to systematically evalu- ate …

本文如何被排名

报道来源 [1]

CS-Guard：为代码生成安全性对 LLM 护栏进行基准测试

相关实体

相关话题