研究人员开发了HiRoute，一个新颖的分层提示调优框架，旨在增强大型语言模型（LLM）的安全对齐。该框架采用输入自适应方法，利用一个轻量级分层路由器来区分有害和良性输入。对于风险输入，HiRoute结合了一个共享提示和一系列风险特定的提示专家，旨在提高各种基准测试中的安全率，同时最大限度地减少过度拒绝并保持通用任务性能。 AI
影响 这项研究提供了一种新方法来提高LLM的安全性并减少有害输出，同时不显著影响通用性能。
排序理由 该集群包含一篇学术论文，详细介绍了LLM安全对齐的新方法。[lever_c_demoted from research: ic=1 ai=1.0]
- arXiv
- hierarchical router
- HiRoute
- Instruction-Tuned Models
- large-language models
- Preference Optimization
- Prompt Tuning by Context Template Pool Optimisation for Vision-Language Model
- safety benchmarks
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →
