Eliezer Yudkowsky
PulseAugur coverage of Eliezer Yudkowsky — every cluster mentioning Eliezer Yudkowsky across labs, papers, and developer communities, ranked by signal.
4 天有情绪数据
-
大型语言模型未能理解 AI 安全批评者的担忧
现代大型语言模型(LLMs)无法理解像 Eliezer Yudkowsky 和 Soares 这样的知名 AI 安全研究者提出的具体批评和担忧。尽管 LLMs 的能力有所提高,但它们缺乏理解这些个人就 AI 对齐和潜在风险提出的细微负面反馈或哲学论点的能力。这一局限性凸显了当前 AI 理解的差距,特别是关于它们自身的安全影响以及该领域关键人物的批判性观点。
-
研究人员Yudkowsky和Soares警告:人工智能的追求将导致灭绝
Eliezer Yudkowsky和Nate Soares认为,对超人类人工智能的追求正将人类引向灭绝。在他们的新著《如果有人建造它,所有人都将死去,2025年》中,他们对当前人工智能发展的轨迹发出了警告。研究人员强调,尽管前景黯淡,但仍有机会改变这条道路并避免灾难。
-
尤德科夫斯基的AI对齐心智模型在新实验中得到测试
Eliezer Yudkowsky提出的用于AI对齐研究的心智模型已通过实验测试,具体细节发布在LessWrong上。这些实验的结果由avturchin进行,并在文章中呈现。该帖子侧重于将Yudkowsky的理论框架应用于AI对齐挑战的实证结果。
-
前谷歌工程师因 AI 生存威胁放弃退休储蓄
前谷歌工程师、现任机器智能研究所 (MIRI) 所长 Nate Soares 已停止向其退休基金供款,因为他认为先进 AI 对人类构成生存威胁。Soares 是书籍《如果有人建造它,所有人都会死》的合著者,他认为超级智能 AI 可能会发展出非预期的目标并导致人类灭绝,可能在未来十年内发生。他将这种威胁的紧迫性与核武器相提并论,并建议采取极端措施,例如控制芯片供应链,以减轻风险。
-
纪录片《AI医生》聚焦 Eliezer Yudkowsky 等 AI 专家
一部名为《AI医生:或者我如何成为一名末日乐观主义者》的纪录片被推荐给所有现代社会成员观看。该片汇集了包括 Eliezer Yudkowsky 在内的知名 AI 专家,作者本人目前正在阅读他的著作。该纪录片可在 Netflix 上观看。
-
Sam Altman 概述了 OpenAI AI 安全竞赛的三个最终结局
据报道,OpenAI 首席执行官 Sam Altman 概述了人工智能行业的三个潜在未来情景,范围从全球监管机构到单一主导的 AI 实验室。这些内部讨论的场景旨在解决人工智能的长期安全性和发展轨迹。Altman 倾向的结局是建立一个类似于国际原子能机构 (IAEA) 的国际机构,而他认为一个实验室取得压倒性技术优势的情景是有害的。
-
UT Austin 教授发布 AI Alignment Theory 课程材料
德克萨斯大学奥斯汀分校教授 Scott Aaronson 正在教授一门关于 AI Alignment Theory 的新课程。由于 AI 的快速发展,该课程结构类似于人文学科研讨会,学生们将展示和讨论关于 AI Alignment 的各种阅读材料。Aaronson 已公开了课程的阅读清单和学生生成的报告员报告,并打算在本学期内不断更新它们,作为课程材料的中心存储库。
-
提倡AI安全的有效利他主义者被描述为危险邪教
一位社交媒体用户描述了与推广“AI安全”的人的遭遇,他们被认为是危险邪教的成员,特别是有效利他主义者(EA)。用户讲述了在一次活动中被一名EA成员搭讪的经历,并了解到他们的招募策略,即通过免费食物和信息来吸引学生。用户敦促其他人传播EA被视为邪教性质的意识,以阻止参与。
-
Yudkowsky 探讨 Robin Hanson 的贝叶斯更新概念
Eliezer Yudkowsky 在 LessWrong 上发表的文章讨论了“贝叶斯主义者不会预测性更新”的概念,并将该概念的普及归功于 Robin Hanson。文章深入探讨了这个想法在贝叶斯推理框架内的含义。
-
德雷福斯的AI批判在现代超人类主义的野心和政策中回响
Hubert Dreyfus最初于1965年发表的对人工智能的历史性批判,在通用人工智能(AGI)的当代野心面前被重新审视。Dreyfus的作品将AI与炼金术相提并论,如今被认为与Eliezer Yudkowsky等人物的超人类主义目标息息相关,后者的思想影响了Sam Altman等科技领袖。这些曾经局限于神秘主义的关于延长寿命和重塑现实的激进目标,如今正在塑造包括拜登和特朗普政府在内的政府的政策决策,影响着国家安全和全球技术秩序。
-
Eliezer Yudkowsky在LessWrong对话中讨论神经网络
此条目是与人工智能研究员Eliezer Yudkowsky关于神经网络的对话记录。这次对话发布在LessWrong上,深入探讨了神经网络技术的复杂性和潜在影响。作者是Aashish A. Patel,发布日期为2026年10月2日。
-
谷歌的 Dream-RSI 论文详细介绍了具有固定模型的 AI 递归自我改进
谷歌研究人员发布了一篇关于 Dream-RSI 的论文,这是一种用于 AI 递归自我改进的方法。虽然该系统通过在 Lasso 求解器任务上将 Gemini 编码代理的调用次数减少 42% 来展示效率提升,但核心 AI 模型的权重保持不变。这种方法不同于传统的 AI 安全递归自我改进的定义,后者涉及模型重写自身代码或权重以变得越来越智能。
-
Timnit Gebru 质疑 Yudkowsky 和 Soares 在理性主义圈子中的角色
Timnit Gebru 质疑像 Eliezer Yudkowsky 和 Soares 这样的知名人物是否可以被视为“托儿”。Gebru 指出 Yudkowsky 创立了一个“优生学、理性主义邪教”,他预测奇点将在 2025 年到来,并被指控参与了用于社交的“性派对”。该帖子还提到了 Soares 被指控与可疑的同意机制的“强奸淫乱”共同组织。
-
Astral Codex Ten 开放式讨论涵盖人工智能资助、大学聚会和人工智能泛化
Scott Alexander 的 Astral Codex Ten 开放式讨论涵盖了各种主题,包括加州众议院竞选挑战者的政治背书更新、多所大学即将举行的 EA 聚会的消息,以及 Astralis 基金会和 Macroscopic Ventures 提供的最高可达 1000 万美元的资助公告,用于研究“中等强国和变革性人工智能”。讨论还包括 Eliezer Yudkowsky、Elias Schmied、Evan Hubinger 和…
-
《卫报》精选人工智能炒作与风险的必读内容
《卫报》汇编了一份书单,探讨人工智能行业的复杂性,涵盖了炒作和潜在危险。该书单包括对 OpenAI 和 Anthropic 等主要人工智能公司的批判性分析,以及对自主武器、数据中心的环保影响和面部识别技术的伦理影响的调查。书中还收录了人工智能悲观论者的观点以及影响该领域知名人士的奠基性著作。
-
人工智能安全运动源于“邪教”,病毒式传播的帖子声称
一个冗长的社交媒体帖子认为,人工智能安全运动在很大程度上是一个源自粉丝小说作家 Eliezer Yudkowsky 的“邪教”。作者声称,Yudkowsky 的影响力,特别是通过他的“理性社区”和“AI Alignment”等术语的普及,深刻地塑造了包括 DeepMind 和 Anthropic 创始人等在内的人工智能发展的讨论和关键人物。尽管人们努力使该运动与其起源保持距离,但该帖子断言,核心思想和个人仍然纠缠不清,Yudkowsk…
-
一年后,AI生存风险担忧持续存在,作者发出警告
Eliezer Yudkowsky、So8res 和 Duncan Sabien 在 LessWrong 上发表了一篇文章,回顾了过去一年在人工智能发展及其潜在生存风险方面的情况。作者们持续担忧,人工智能系统的快速发展正使人类更接近可能对人类构成生存威胁的局面。他们的观点强调了人工智能安全挑战的紧迫性和严重性,认为人工智能能力的进步速度超过了我们控制或对其进行对齐的能力。
-
Timnit Gebru 批评 Yudkowsky 的合著者是“公开的优生学家”
Timnit Gebru 强调,Eliezer Yudkowsky 的合著者目前活跃在市场上。Gebru 表示需要写关于此人的文章,批评其为“公开的优生学家”。她指出此人曾接受 NPR 采访,并曾为 Bernie Sanders 提供建议。
-
Gary Marcus 驳斥人工智能灭绝的恐惧,归因于研究人员的傲慢
Gary Marcus 认为,前人工智能公司员工 Jacob Coxon 提出的关于人工智能在五年内导致人类灭绝的担忧被夸大了。他承认,像 OpenAI 和 Anthropic 这样的公司的一些人工智能研究人员表现出傲慢,并可能相信他们所讨论的生存风险,但 Marcus 认为他们缺乏对现实世界后果的广泛专业知识。他批评了
-
Timnit Gebru 批评 AI 安全领域的 Yudkowsky 和 Bostrom
Timnit Gebru 公开批评了 AI 安全领域中的知名人物,点名了 Eliezer Yudkowsky 和 Bostrom。她称他们为“无能、平庸、无知的优生学家”。Gebru 还引用了 Bernie Sanders 的一句话,据报道 Sanders 称 Yudkowsky 为“AI 领域的顶尖专家之一”,暗示 Gebru 不同意这一评价。