实体
Richardson
Richardson
PulseAugur coverage of Richardson — every cluster mentioning Richardson across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 2
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 2
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
AI安全框架将“信念”扩展到概率分布之外
Richard Ngo 的帖子介绍了一个“不精确信念”框架，该框架超越了传统的概率分布，尤其适用于 AI 安全应用。由“davidad”开发的提议模型将信念定义为下半连续函数，并使用特定类别对其进行排序。这种方法旨在通过整合现有的各种信念形式主义（如贝叶斯信念、Infra-Bayesian 信念、MWER、PDG 和 credal sets）来更好地处理概率分布不足的情况，例如在复杂的决策制定或安全权衡中。
-
AI智能体被概念化为分层信念网络
这篇博文介绍了一个非正式的框架，将智能体理解为“信念网络”。该模型整合了主动推理、智能体基础和机器学习的概念，提出信念、目标和行动是单一现象相互关联的方面。该框架认为，智能体的信念通常是局部一致的，但不一定是全局一致的，这对依赖单一概率分布的模型提出了挑战。它借鉴了概率依赖图（PDGs）和Garrabrant归纳法来处理这种不一致性，并融入了类似深度学习架构的分层概念形成。