一个提出的“科学家AI”架构强调呈现底层数据,而不是直接进行互联网训练,以避免AI采纳普通人的平均信念。这种方法旨在训练AI根据贝叶斯概率进行预测,考虑来自各种来源的声明以及潜在陈述为真的可能性。AI的唯一目标是成为一个准确的预测者,通过避免基于下游后果的奖励信号来使其性能和诚实度保持一致。 AI
影响 这种架构可以通过将预测与下游后果脱钩,从而实现更诚实、更准确的AI系统。
排序理由 该集群描述了一篇研究论文中提出的新颖AI架构。[lever_c_demoted from research: ic=1 ai=1.0]
在 Mastodon — mastodon.social 阅读 →
AI 生成摘要 · Google Gemini · 来自 1 个来源。 我们如何撰写摘要 →