研究人员开发了SpecCloak，一个旨在探测大型语言模型（LLM）在生成有害代码方面的安全性的框架。该框架使用“PseudoSpec”模板将编程需求呈现为工程规范，与标准提示相比，即使存在明确的风险关键词，也能显著减少模型的拒绝率。在RedCode-Gen数据集上对八种不同模型进行红队测试时，SpecCloak实现了28.91%的攻击成功率。此外，还引入了一个名为SpecReveal的防御原型，它使用意图重建来检测恶意提示，准确率达到96.88%。 AI
影响 这项研究强调了一种红队测试LLM的新方法，可能带来更强大的安全评估和防御恶意代码生成的能力。
排序理由 该集群包含一篇研究论文，详细介绍了一种评估LLM安全性的新方法和框架。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
