实体
Abram Demski
Abram Demski
PulseAugur coverage of Abram Demski — every cluster mentioning Abram Demski across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 1
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 2 条
-
Resolution 成立 Agent Foundations 团队，专注于 AI 安全研究
Resolution 成立了一个新的 Agent Foundations 团队，成员包括 Jeremy Gillen、Abram Demski 和 Scott Garrabrant 等研究人员。该团队旨在开发理解心智的新理论，他们认为这对于构建增强而非危及人类能动性的超级智能系统至关重要。他们的研究将侧重于理解概念、信任与合法性以及改进博弈论基础等领域，并明确表示优先延缓迈向超级智能的竞赛，同时为对齐知识做出贡献。
-
AI智能体被概念化为分层信念网络
这篇博文介绍了一个非正式的框架，将智能体理解为“信念网络”。该模型整合了主动推理、智能体基础和机器学习的概念，提出信念、目标和行动是单一现象相互关联的方面。该框架认为，智能体的信念通常是局部一致的，但不一定是全局一致的，这对依赖单一概率分布的模型提出了挑战。它借鉴了概率依赖图（PDGs）和Garrabrant归纳法来处理这种不一致性，并融入了类似深度学习架构的分层概念形成。