PulseAugur
中
实时 08:51:29
English(EN) Detecting Contaminated Code-Generation Prompt Batches via Influence Functions

新的CodeSIFT方法可检测恶意LLM代码生成提示

作者 PulseAugur 编辑部 · [1 个来源] ·

研究人员开发了CodeSIFT，一种用于检测大型语言模型代码生成中恶意提示的新方法。与依赖已知漏洞模式的现有防御措施不同，CodeSIFT使用影响函数来识别导致模型异常行为的提示批次。这种方法不依赖于特定的威胁模型，并且在检测不同代码LLM中的各种漏洞方面表现出高准确性，优于传统的静态分析方法。 AI

影响 通过提供一种无需预先了解攻击向量即可检测恶意提示的新颖方法，增强了代码生成模型的安全性。

排序理由 该集群包含一篇学术论文，详细介绍了一种检测LLM生成代码中安全漏洞的新方法。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.LG 阅读 →

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →

新的CodeSIFT方法可检测恶意LLM代码生成提示

报道来源 [1]

  1. arXiv cs.LG TIER_1 English(EN) · Francesco Quinzan, Noor Munir, Yishun Lu, Stephen Roberts ·

    利用影响函数检测受污染的代码生成提示批次

    arXiv:2608.14303v1 Announce Type: new Abstract: Large language models (LLMs) are increasingly used for code generation, yet they remain vulnerable to prompts that elicit insecure implementations. Existing defenses typically rely on predefined threat models or known vulnerability …

相关实体

相关话题