Astral Codex Ten
PulseAugur coverage of Astral Codex Ten — every cluster mentioning Astral Codex Ten across labs, papers, and developer communities, ranked by signal.
8 天有情绪数据
-
Scott Alexander的Astral Codex Ten发布“Plan A”人工智能路线图
Scott Alexander的Astral Codex Ten博客发布了“Plan A”，这是由Daniel Kokotajlo和AI Futures Project制定的、用于应对人工智能未来的详细路线图。该愿景概述了从现在到2040年的最佳情景，假设美国尽管存在全球竞争动态和潜在的智能爆炸，仍能做出最佳选择。Plan A的一个关键要素是提议与中国建立联合人工智能监管制度，旨在建立一条共同前进的道路，而非竞争之路。
-
AI安全资金和发展暂停抗议在开放讨论中被强调
Astral Codex Ten 的最新开放讨论（Open Thread）讨论了几个与 AI 相关的倡议。Grantmaking.ai 已启动一项 100 万美元的基金，用于支持专注于减轻 AI 存在风险的项目，申请和评审将于 7 月 13 日截止。此外，StopTheRace.AI 正在组织一场于 7 月 11 日在旧金山举行的抗议活动，敦促 Google DeepMind 和 Anthropic 等 AI 公司公开承诺，如果其他主…
-
作者提议建立世俗的“忠诚神庙”以正式化承诺
作者提议创建一个受罗马“忠诚”（Fides）概念启发的现代世俗机构。“忠诚”是罗马国家和宗教生活中核心的女神化美德。这个提议的“忠诚神庙”将作为一个场所，供个人和团体正式做出并见证重要承诺，例如“量入为出”（Giving What We Can）誓言或婚姻誓言，旨在培养真诚和终生忠诚的意识。该机构将像公证人一样务实运作，但增加了仪式和社会强化，以创造持久的回忆并阻止违背誓言，这与前现代的自我提升精神框架有相似之处。
-
人工智能模型崭露头角成为超级预测者，在预测市场中超越人类
人工智能模型现已展现出超级预测能力，在预测市场和股票交易中显著超越人类专家。初创公司正在开发专门的人工智能代理，通常基于ChatGPT和Claude等前沿模型构建，这些代理能够进行广泛的研究和分析以生成预测。一个例子是FutureSearch，它利用其人工智能预测到2040年普通感冒感染率减半的可能性为7%，并引用了生物学、后勤和采纳方面的挑战。
-
Scott Alexander 的开放式讨论 440：牙科益生菌更新和书籍评论大赛入围者
Scott Alexander 的每周开放式讨论“开放式讨论 440”介绍了 Lumina 牙科益生菌的最新进展，该益生菌因定植问题已暂停销售，但可能会推出改良版恢复销售。该讨论还公布了书籍评论大赛的入围者名单，评论将于周五开始发布。
-
Scott Alexander 的 ACX 博客举办开放式讨论，探讨 AI 派别和研究
Scott Alexander 的 Astral Codex Ten 博客举办了两次开放式讨论，一次是公开的，一次是付费订阅者可见的。公开的讨论，开放式讨论 439，包含几个不同的主题。其中包括为 Future of Life Foundation 的认知案例研究竞赛征集投稿，该竞赛为人工智能驱动的知识库开发提供高达 50,000 美元的奖金。此外，该讨论还强调了关于莱索托使用裸盖菇素的研究，并指出纽约国会初选已成为硅谷 AI 派别的…
-
神经科学重复性研究未能证实脑节律学习提升
一项对2023年神经科学实验的重复性研究未能重现原始发现，表明最初的效果可能并非真实存在。原始研究声称，以个体峰值α频率闪烁灯光可以加速感知学习，暗示了学习与脑节律协调之间的联系。然而，耗资32,000美元的重复性研究并未发现此类效果，作者建议，如果更仔细地检查原始数据，可能早就发现了问题。
-
Scott Alexander 的开放式讨论 438 聚焦 AI 安全候选人、EA 孵化器
Scott Alexander 的“开放式讨论 438”讨论了理性主义和有效利他主义（EA）社区内的几项倡议和活动。一个名为 Surplus 的新孵化器，由 Y Combinator 支持，正在启动，以支持公益软件产品，提供指导和种子基金。该讨论还强调了对 Alex Bores 的支持，他是一位专注于 AI 安全的候选人，正在曼哈顿竞选国会议员，并呼吁社区在竞争激烈的选举中提供援助。此外，1DaySooner 正在为其临床试验丰裕计划…
-
Scott Alexander 分享AI时间线和AGI扩散差距估算
Astral Codex Ten 的 Scott Alexander 概述了他对AI时间线的个人看法，将AGI定义为能够胜任90%知识工作岗位的AI。他估计AGI在2034年出现的概率为50%，在2045年出现的概率为75%，并承认在递归自我改进和潜在的计算瓶颈方面存在显著的不确定性。Alexander 还提出了AGI的开发与其广泛的社会采纳之间的“扩散差距”，估计这个差距小于10年的概率为50%，并将其与个人电脑的扩散速度进行了类比。
-
Scott Alexander 的 Astral Codex Ten 举办订阅者讨论帖
Scott Alexander 的 Astral Codex Ten 发布了一篇“隐藏的公开帖”，这是付费订阅者杂项想法和讨论的集合。这些帖子通常涵盖广泛的主题，从个人轶事到更广泛的社会观察和智力辩论，作为订阅者的社区论坛。
-
Scott Alexander 在伯克利举办 Astral Codex Ten 大型聚会
Scott Alexander 将于本周三在伯克利为其博客 Astral Codex Ten 举办一次聚会。活动将于晚上 6:30 至 9:30 在 Lighthaven 举行。无论是否熟悉该博客或社交舒适度如何，所有人都欢迎参加。此次聚会预计规模较大，可能包括与 Alexander 的问答环节。
-
Scott Alexander 的 ACX 举办开放式讨论，包含 AI 安全训练营
Scott Alexander 的 Astral Codex Ten 举办社区讨论和公告的开放式讨论。本周的讨论重点介绍了拉斯维加斯的 AI 安全训练营，并提供了反对旨在限制动物福利法的 Save Our Bacon Act 的资源。
-
Scott Alexander 寻求社区帮助以评选图书评论大赛
Scott Alexander 的 Astral Codex Ten 正在寻求社区协助，以选拔其 2026 年图书评论大赛的决赛入围者。一个由软件工程师 Rob Ennals 开发的新网站已被创建，以促进评分过程，允许用户评论和评分参赛作品。该比赛的投稿和评分截止日期为 6 月 15 日。
-
Scott Alexander 的 ACX 开放式讨论涵盖人工智能安全、政治和奖学金
Scott Alexander 的 Astral Codex Ten 开放式讨论突出了几个关键话题。其中一个讨论点围绕着法兰克福学派令人惊讶的校友，包括 Palantir 创始人 Alex Karp。该讨论串还呼吁支持 Alex Bores 的民主党初选竞选活动，重点关注安全的人工智能和其他政策问题。此外，还提供了关于人工智能对齐和安全性的 MATS 研究奖学金的信息，新增了生物安全和创业方向，并提到了 Eleos，一个人工智能意识和…
-
AI用于研究与AI用于人际连接：效用与真实性的辩论
Scott Alexander的Astral Codex Ten认为，像Claude这样的AI工具可以通过提高信息收集效率，极大地增强个人研究能力，尤其是在政治决策方面。相比之下，一篇Hacker News的文章则采取了更具批判性和诗意的语调，暗示过度依赖AI来完成诸如制定餐饮计划、组织旅行或撰写个人信息（如婚礼祝酒词）等任务，会削弱人际连接和生活经验的价值。作者暗示，AI生成内容的“程式化的甜蜜”缺乏人类创作和互动所具有的深度和真实性。
-
Scott Alexander 的 ACX 博客讨论 AI 自动化
Scott Alexander 的 Astral Codex Ten 博客每周举办开放式讨论，读者可以就各种话题进行交流。最近的讨论包括书评比赛参赛作品、即将出版的《80,000 Hours: How To Have A Fulfilling Career That Does Good》一书的发布（该书涉及 AI 驱动的自动化），以及 Alexander 个人在加州初选中的选择。
-
Scott Alexander：新的AI范式可能在3-5年内出现
Scott Alexander 认为，即使通用人工智能（AGI）需要超越当前大型语言模型（LLM）的新范式，这种新范式也可能在未来3-5年内出现。他利用林迪效应（Lindy's Law）来估计革命性AI进展的时间线，暗示像Transformer架构那样重大的范式转变可能相对较快地到来。Alexander 认为，计算能力的快速扩展以及AI研究人员数量的不断增加（可能还会得到AI本身的增强）将加速发展，使得AGI的时间线成为一个近期需要关…
-
Scott Alexander 对加州州长候选人进行分类
Scott Alexander 在其 Astral Codex Ten 博客上幽默地对加州州长候选人的庞大群体进行了分类，指出区分众多竞争者之间的难度。他识别出诸如“顶级民主党人”和“顶级共和党人”等原型，以及那些认为自己的商业头脑是关键的“冲突理论家”，还有提出新颖、未经证实的解决方案的“错误理论家”。Alexander 还强调了那些似乎操纵民意调查或付费以获得有利媒体报道的“媒体吸引者”。
-
Scott Alexander 的博客刊载 AI 生存风险讨论
Scott Alexander 的 Astral Codex Ten 博客每周都会举办开放式讨论，读者可以讨论任何话题，包括 AI。最近的一次讨论强调了旧金山科技界人士对人工智能带来的生存风险的担忧。这些人强烈希望公众能够理解这些 AI 风险担忧背后的具体论点，超越典型的人类兴趣叙事。
-
Scott Alexander 整理了科幻小说中人工智能的杂志报道
Scott Alexander 的 Astral Codex Ten 网站汇编了关于科幻人工智能领域杂志文章的全面概述。该合集旨在对各种出版物中关于推测性小说中人工智能的讨论进行编目和分析。该项目为理解人工智能在流行媒体中的描绘和讨论提供了资源。