研究人员开发了一个名为POLARIS的新框架，以改进大型语言模型的安全测试。该系统将自然语言策略转换为形式逻辑，创建一个图表以帮助识别潜在的违规行为。通过系统地探索该图表，POLARIS生成可执行的测试查询，以确保LLM遵守安全关键规则并具有可验证的可追溯性。实验表明，与现有方法相比，POLARIS实现了更好的策略覆盖率和更高的攻击成功率。 AI
影响 自动化LLM安全测试，可能带来更可靠和可验证的AI系统。
排序理由 该集群包含一篇介绍AI安全测试新框架的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
