moral agency
PulseAugur coverage of moral agency — every cluster mentioning moral agency across labs, papers, and developer communities, ranked by signal.
1 天有情绪数据
-
AI 进展挑战 Obsidian 等传统知识管理工具
一位 Reddit 用户在质疑,鉴于 Claude Code 等工具的进步,在知识管理和生产力方面使用 Obsidian 和 AgenticOS 的必要性。他们正在探索一种面向终端的工作流程,该流程集成了文件管理、文档和 AI 代理交互,是否可以取代 Obsidian 等专用界面的需求。讨论还涉及用户如何管理 AI 代理的记忆和上下文,以及如果从头开始,理想的设置是什么。
-
AgenticOS 为 AI 代理运行添加了细粒度成本跟踪
由 Vstorm 开发的平台 AgenticOS 现在允许用户跟踪单个 AI 代理运行的成本。此功能将特定任务与其相关的模型使用情况、令牌计数和报告的成本联系起来,从而实现更好的预算管理和成本分析。该系统显示详细信息,例如使用的模型(例如,通过 OpenRouter 的 anthropic/claude-opus-4.5)、令牌消耗以及每次运行的计算成本,即使是失败的尝试。这种细粒度跟踪有助于用户通过包括重试和不成功的尝试来了解代理工…
-
新论文发现大型语言模型缺乏对齐所需的道德能力
两篇新研究论文探讨了当前大型语言模型(LLMs)在处理道德推理和对齐方面的局限性。第一篇论文认为,LLM代理缺乏连贯对齐所需的基本“道德能力”,在面对道德困境时其回应存在显著不一致。第二篇论文研究了LLM如何评估感知到的道德主体性,发现虽然人类通常比LLM赋予更多的道德主体性,但在面对道德困境时,人类和LLM都倾向于优先考虑伤害的严重程度和情境的紧迫性,而不是稳定的代理评估。两项研究都表明,当前的LLM架构尚不适合需要真正道德理解或责任的任务。