研究人员推出了一种新颖的神经符号架构PL-Guard，旨在通过分离语义接地和策略推理来增强大语言模型（LLM）的安全性。该方法使用带有谓词和ProbLog规则的符号策略接口，其中本地LLM将提示-响应对接地为谓词概率，而ProbLog执行显式的概率规则推理。在XSTest基准上的评估表明，与基础模型相比，PL-Guard将不安全合规率从22.0%显著降低到0.5%，优于LLM作为裁判的基线。然而，这种改进伴随着更高的过度拒绝率，表明安全性与有用性之间存在权衡，而PL-Guard的设计使得这种权衡变得明确且可审计。 AI
影响 通过将推理与接地分离来增强LLM安全性，使护栏决策更易于审计，并可能减少有害输出。
排序理由 该集群包含一篇详细介绍LLM护栏新方法的论文。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- LLM
- LLM-as-a-Judge
- PL-Guard
- Probabilistic logic reasoning for subjective interestingness analysis
- Problognathiidae
- Qwen
- XSTest
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
