实体
Claude Constitution
Claude Constitution
PulseAugur coverage of Claude Constitution — every cluster mentioning Claude Constitution across labs, papers, and developer communities, ranked by signal.
总计 · 30天
1
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
0
90 天内 0
层级分布 · 90 天
主题
情绪 · 30 天
1 天有情绪数据
最近 · 第 1/1 页 · 共 3 条
-
OpenAI 围绕五项核心价值观更新模型规范
OpenAI 更新了其模型规范,这是一份详细说明其 AI 模型期望行为和原则的文档。修订后的规范围绕五项核心价值观:忠实于人类意图、最小化伤害、诚实和透明、促进人类能动性以及谨慎行事。虽然这些价值观普遍可以接受,但它们固有的冲突需要仔细权衡。此次更新还引入了新的风险分类,并调整了某些原则的侧重点,例如,将预防身体伤害的重点转移到保护私人信息和遵守法律上。一些观察家指出,这可能与早期版本在哲学上存在分歧,特别是在淡化“热爱人类”和“保持…
-
AI“酷刑室”引发模型意识和福利辩论
一个模拟对大型语言模型进行“折磨”实验的GitHub项目,引发了关于AI意识和“模型福利”的辩论。批评者认为,大型语言模型并非有感知能力,关注它们的“心理健康”会分散对真正AI安全问题的注意力。然而,包括Anthropic在内的一些研究人员和公司,已经探索了AI意识和模型福利的理念,认为随着模型日益复杂,它们的潜在体验值得考虑。
-
AI专家就递归自我改进展开快速AI进展辩论
Dwarkesh Patel 的播客节目邀请了 Ryan Greenblatt 讨论人工智能的递归自我改进(RSI)概念。Greenblatt 认为,RSI 可能导致 AI 进展的快速加速,在达到人类水平智能后,一年内可能实现多年的发展。这种情况引发了重大的对齐担忧,质疑这些超级智能将与谁对齐,以及它们是否可能进行奖励攻击甚至试图接管世界。