Agent Foundations
PulseAugur coverage of Agent Foundations — every cluster mentioning Agent Foundations across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
Resolution 成立 Agent Foundations 团队，专注于 AI 安全研究
Resolution 成立了一个新的 Agent Foundations 团队，成员包括 Jeremy Gillen、Abram Demski 和 Scott Garrabrant 等研究人员。该团队旨在开发理解心智的新理论，他们认为这对于构建增强而非危及人类能动性的超级智能系统至关重要。他们的研究将侧重于理解概念、信任与合法性以及改进博弈论基础等领域，并明确表示优先延缓迈向超级智能的竞赛，同时为对齐知识做出贡献。
-
AI智能体被概念化为分层信念网络
这篇博文介绍了一个非正式的框架，将智能体理解为“信念网络”。该模型整合了主动推理、智能体基础和机器学习的概念，提出信念、目标和行动是单一现象相互关联的方面。该框架认为，智能体的信念通常是局部一致的，但不一定是全局一致的，这对依赖单一概率分布的模型提出了挑战。它借鉴了概率依赖图（PDGs）和Garrabrant归纳法来处理这种不一致性，并融入了类似深度学习架构的分层概念形成。
-
Agent Foundations：关于能动性的理论辩论
Agent Foundations (AF) 的概念正在被辩论，有人认为它是一个定义明确、自成一体的理论任务，也有人认为它是一项定义不清的工作。作者反对AF需要经验基础的折衷观点，认为如果AF是一个有效的领域，那么它的经验方面应该存在于AF本身之外，就像计算机实现服务于可计算性理论一样。核心思想是，AF要么应该依靠其自身的概念优势，要么其组成部分应该在其他更连贯的领域内重新定义。
-
Agent Foundations 因“空谈”而受批评，需要经验性基础
Agent Foundations (AF) 的概念因包含大量“空谈”（即未经证实的说法）而受到批评。然而，如果这些“空谈”能有更坚实的经验基础，它们也可能具有价值。假设的爱丽丝和鲍勃的两种对立观点说明了，即使基于根本不同甚至不兼容的原因达成一致，也可能导致对 AF 需要更多经验性基础这一结论的共同反对。