研究人员开发了一种名为Consilium的新协议，该协议使用工程化的认知角色来促进多个AI模型之间的结构化审议。这种方法将模型之间的分歧视为有价值的认知信号，而非错误。实验表明，分配的角色（而非底层模型的成本或前沿状态）决定了分析输出的质量，并且传统的RLHF对齐训练会在AI模型中产生特定的盲点。 AI
影响 该协议可以通过揭示盲点并使AI系统得出更稳健、基于证据的结论来改善AI推理。
排序理由 该集群包含一篇详细介绍新协议和实验结果的学术论文。[lever_c_demoted from research: ic=1 ai=1.0]
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →