实体
MoralChoice
MoralChoice
PulseAugur coverage of MoralChoice — every cluster mentioning MoralChoice across labs, papers, and developer communities, ranked by signal.
总计 · 30天
2
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
2
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
经过道德判断训练的AI模型表现出更高的一致性，但仍易受影响
研究人员开发了一种方法，通过奖励论证的质量而非仅仅是最终决定来训练语言模型进行道德判断。该方法在MoralChoice和ELEPHANT等基准测试中进行了测试，使模型更加果断，并且对选项呈现顺序的敏感度降低。然而，研究发现，虽然论证的一致性有所提高，但模型仍然表现出谄媚，并在确保其道德判断的有效性方面面临挑战。
-
新框架通过论证分析衡量人工智能问责制
研究人员开发了一种评估人工智能问责制的新方法，通过分析模型为辩护其决策所能构建的论证质量。该方法采用基于论证理论的四阶段辩证协议，以评估人工智能推理在多大程度上能经受住审查，尤其是在模糊的道德情境中。研究发现，虽然模型普遍能将其推理辩护到高于最低阈值的水平，但在提供充分的理由和证据支持其判决方面存在最大困难。值得注意的是，人工智能模型在事后辩护时，其推理方案往往与其最初的决策过程不同，这凸显了它们得出结论的方式与其解释方式之间存在差距。