研究人员开发了SPARK，一个新颖的推理时系统，旨在提高大型语言模型生成代码的安全性。SPARK通过激活其训练数据中已存在的潜在安全知识来解决LLM生成存在漏洞的代码的问题，而不是依赖于广泛的微调或外部检索。该系统包含两个组件：一个通过结构化提示向模型提供相关安全信息，另一个在生成过程中对模型的输出应用预先计算的偏差。在包括Claude和DeepSeek在内的多种编程语言和模型上的评估表明，SPARK在保持代码可用性的同时，性能与现有方法相当或更优。 AI
影响 通过激活潜在知识增强LLM安全性，有可能在无需广泛重新训练的情况下减少生成代码中的漏洞。
排序理由 该集群包含一篇详细介绍改进LLM安全性的新方法的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
- SPARK
- Claude
- Common Weakness Enumeration
- CPP
- DeepSeek
- generative pre-trained transformer
- HumanEval
- Java
- Python
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →