研究人员开发了InflEns,一个使用博弈论训练专业化AI专家的新颖框架。该方法使用位置博弈来分配训练数据,并通过预测哪个专家最能处理给定提示来指导推理。InflEns在HarmBench基准测试中显著减少了有害行为,将攻击成功率从0.51降低到0.02,同时保持了指令遵循能力。该方法在不需要单独的门控训练步骤的情况下,实现了与显式学习门控相当的性能。 AI
影响 这种博弈论方法可以通过实现专业化专家的定向再训练,从而构建更具可解释性和更安全的AI系统。
排序理由 该集群包含一篇详细介绍AI模型训练和评估新方法的学术论文。
AI 生成摘要 · Google Gemini · 来自 2 个来源。 我们如何撰写摘要 →