新的CGCE框架在不损失性能的情况下增强了生成模型的安全性

研究人员推出了一种名为分类器引导的概念擦除（CGCE）的新框架，旨在增强生成模型的安全性。CGCE作为一种即插即用解决方案，仅在推理时修改不安全嵌入，以防止生成不良内容，同时不改变模型的原始权重。该方法旨在保持模型对良性提示的生成质量，在安全性和对抗攻击的性能之间取得稳衡。 AI

影响 该方法可以通过防止生成有害内容而不损害模型性能来提高生成式AI的安全性。

排序理由 该集群描述了一篇关于生成模型新方法的详细研究论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• alphaXiv
• arXiv
• CatalyzeX
• Classifier-Guided Concept Erasure
• DagsHub
• generative models
• Gotit.pub
• Hugging Face
• ScienceCast
• Viet Nguyen

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →