新的 LARA 框架增强推理过程中的 AI 安全性

研究人员推出了一种名为拉格朗日奖励增强（LARA）的新型框架，旨在在推理过程中引导冻结的语言模型，同时遵守安全约束。LARA 将对齐问题重新表述为一维凸优化问题，从而可以创建增强的奖励信号。该信号可以集成到现有的推理时间对齐方法中，从而改善有用性和无害性之间的平衡。评估表明，LARA，特别是结合了 Best-of-N 重排序，其性能接近传统的微调方法。 AI

影响 增强了 LLM 推理的安全性和效率，可能改善用户体验并降低风险。

排序理由 该集群包含一篇详细介绍 AI 对齐新方法的 ist_research_paper。 [lever_c_demoted from research: ic=1 ai=1.0]

在 arXiv cs.AI 阅读 →

• alphaXiv
• arXiv
• Best-of-N reranking
• CatalyzeX
• DagsHub
• Gotit.pub
• Hugging Face
• IArxiv
• KL-regularized constrained objective
• Lagrangian Reward Augmentation
• LARA
• ScienceCast

• 论文
• 安全

AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →