实体
decision maker
decision maker
PulseAugur coverage of decision maker — every cluster mentioning decision maker across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 3
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
新的 LLM 护栏框架使用双假设推理增强安全性
研究人员推出 ARBITER，一个旨在增强大型语言模型 (LLM) 安全性的新框架。ARBITER 采用双假设推理方法，该方法在做出安全判断前会同时考虑提示的安全和不安全解释。它还利用多组件监督微调 (MC-SFT) 来通过分解和加权 LLM 输出，更有效地训练护栏。这种方法比现有技术更具成本效益，它使用自生成的推理轨迹和通过 LoRA 进行参数高效微调，同时在安全基准测试上的表现优于更昂贵的方法。
-
新研究探讨多目标优化中的目标归一化
一篇新论文探讨了目标归一化对基于偏好的进化多目标优化（PBEMO）中感兴趣区域（ROI）定义的影响。研究表明，在未归一化目标空间中定义的ROI比在归一化空间中更容易近似，尤其是在目标尺度不同的情况下。研究强调，由于理想点和最低点的问题，归一化ROI可能难以近似。
-
ARBITER 方法通过分析推理轨迹盆地来提高 LLM 的准确性
研究人员推出了一种名为 ARBITER 的新颖方法，旨在通过解决测试时采样中的失败来提高语言模型的准确性。标准的采样方法会生成多个推理路径并通过多数投票选择答案，但这可能导致选择不正确的答案，如果它们属于最稳定而非最准确的推理盆地。ARBITER 仅使用模型自身的采样输出和隐藏状态来模拟这些盆地之间的交互，通过增加证据来增强共识。该方法在各种模型和基准测试中都显示出了一致的准确性提升，在没有外部信息的情况下恢复了很大一部分潜在的性能改进。