PL-Guard架构将大语言模型接地与推理分离，以增强安全性

研究人员推出了一种新颖的神经符号架构PL-Guard，旨在通过分离语义接地和策略推理来增强大语言模型（LLM）的安全性。该方法使用带有谓词和ProbLog规则的符号策略接口，其中本地LLM将提示-响应对接地为谓词概率，而ProbLog执行显式的概率规则推理。在XSTest基准上的评估表明，与基础模型相比，PL-Guard将不安全合规率从22.0%显著降低到0.5%，优于LLM作为裁判的基线。然而，这种改进伴随着更高的过度拒绝率，表明安全性与有用性之间存在权衡，而PL-Guard的设计使得这种权衡变得明确且可审计。 AI

影响 通过将推理与接地分离来增强LLM安全性，使护栏决策更易于审计，并可能减少有害输出。

排序理由 该集群包含一篇详细介绍LLM护栏新方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• arXiv
• LLM
• LLM-as-a-Judge
• PL-Guard
• Probabilistic logic reasoning for subjective interestingness analysis
• Problognathiidae
• Qwen
• XSTest

• 论文
• 安全
• 模型发布

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →