empowerment
PulseAugur coverage of empowerment — every cluster mentioning empowerment across labs, papers, and developer communities, ranked by signal.
-
arXiv论文揭示新的智能体赋权几何框架
该论文介绍了用于分析智能体赋权的新几何解释,赋权代表智能体控制其环境的能力。该研究将赋权最大化与技能学习方法联系起来,解决了关于赋权与结构中心性之间关系的长期问题。研究结果揭示了信息几何与奖励几何之间的区别,为开发可扩展的赋权最大化技术提供了理论见解。相关的网站和代码均已提供,以及用于代码发现、引用分析和推荐系统的各种工具。
-
新AI框架将最大占用原则扩展至不确定环境
一篇新研究论文介绍了一种基于信念的最大占用原则(MOP)的扩展,MOP是AI智能体内在动机的框架。该扩展通过对隐藏状态进行信念推断,使智能体能够在部分可观察的环境中运行。该论文还提出了主动推理的预期自由能的贝尔曼重构,能够在资源不确定的场景中进行离线计算和智能体行为比较。研究结果表明,MOP智能体在目标导向和探索之间表现出平衡,而主动推理智能体则专注于稳定、信息丰富的区域。
-
新的贝尔曼方程针对强化学习中的塑性问题
研究人员引入了一个新的贝尔曼最优方程,专门用于优化持续强化学习中的塑性。这项工作建立在先前的一个形式化基础上,该形式化将稳定性-塑性权衡重新定义为赋能-塑性权衡,其中塑性由从观测到动作的有向信息定义,赋能由从动作到观测的有向信息定义。虽然赋能问题已被广泛研究,但本文首次尝试在马尔可夫决策过程中,在这一新定义下解决塑性优化问题。
-
AI对齐研究探索类人社会驱动力作为AGI的动机
一篇在Alignment Forum和LessWrong上的帖子,通过借鉴人类的社会和道德驱动力,探讨了未来“类脑AGI”的技术对齐问题。作者认为,如果人类能够实现一个美好的未来,那么足够类人化的AGI也能实现,前提是它们拥有亲社会动机。该帖子深入探讨了特定的人类本能、潜在的失败模式(如不正确的道德圈或权力动态),以及将这些驱动力整合到AGI代码中的实现细节。