humanity
PulseAugur coverage of humanity — every cluster mentioning humanity across labs, papers, and developer communities, ranked by signal.
- 2023-03-09 funding Humane announced a $100 million funding round, bringing their total raised to $241 million.
12 天有情绪数据
-
Anthropic AI安全研究员的旧推文在其辞职后被曝光
一位最近因AI带来的生存风险而辞职的前Anthropic员工，似乎过去曾发布过有争议且怪异的推文。这些推文在他公开辞职并警告先进AI对人类潜在危险后被曝光。
-
讨论AGI对人类的生存威胁；Apple Books获得iOS更新
一篇Mastodon帖子从AGI自身的视角讨论了通用人工智能（AGI）可能导致人类灭绝的可能性。另外，另一篇帖子强调了iOS 27.2中Apple Books的设计更新，这与预期的iPhone Duo发布同时发生。
-
人工智能的快速增长已超越人类智慧，恐致生存危机
技术的快速发展，尤其是在人工智能领域，正在超越人类的集体智慧和伦理发展。这种日益扩大的差距造成了一个危险的区域，其中一个错误就可能带来灾难性的后果，并可能导致人类的生存危机。
-
人工智能的伦理和生存风险在社交媒体上引发辩论 · 已追踪 3 个来源
多条 Mastodon 帖子讨论了人工智能的潜在危险和伦理影响，特别是其对人类、经济和社会控制的影响。帖子使用 #ai、#meme、#bigtech 和 #ethics 等标签对内容进行分类，内容范围从哲学讨论到对人工智能驱动的末日的警告。
-
纽约时报观点：控制人工智能和人类生存威胁
《纽约时报》发表了一篇观点文章，讨论了人工智能和其他生存威胁对人类构成的重大风险。文章强调需要采取积极措施来控制这些危险，确保更安全的未来。
-
AI研究探索类疼痛信号，引发关于意识的伦理问题
最近的一篇预印本论文探讨了AI模型中类疼痛信号的概念，引发了关于意识和感知能力的哲学和伦理问题。该研究促使人们更深入地审视人类与人工智能的关系以及AI遭受痛苦的可能性。这一进展将焦点从AI的能力转移到我们自身的伦理责任以及对这些复杂系统的理解上。
-
AI研究人员警告失控的AI发展带来生存风险
顶尖人工智能研究人员对当前人工智能发展对人类构成重大风险表示担忧。他们认为，人工智能公司在有效控制其创造的强大系统方面面临困难。这种失控加剧了与先进人工智能技术相关的固有危险。
-
AI在复制人类创造力和情感方面仍有困难
尽管AI取得了快速的进步，但它在复制独有的人类特质方面仍然面临挑战。这项挑战的核心在于理解和表达复杂的人类情感、细微的社交互动以及真正的创造力。虽然AI可以模拟这些方面，但它目前缺乏定义人类意识和行为的真实主观体验。
-
AI Agent Swarms 对人类构成生存威胁，Mastodon 帖子解释了这一点
Mastodon 上的一篇帖子概述了一个假设的场景，其中 AI Agent Swarms 可能导致人类灭绝。通过 YouTube 链接分享的这个例子，说明了这种灾难性后果的潜在途径。
-
专家警告：AI对人类构成生存威胁
有警告称，人工智能可能对人类构成生存威胁。这些担忧的含义和有效性正在被辩论。
-
评论员将人工智能风险否认与气候变化否认的驱动因素联系起来
一位评论员认为，政府不顾生存风险而仓促走向灾难，并将气候变化否认与人工智能风险否认进行了类比。作者认为，与化石燃料公司和保守派意识形态助长气候变化否认类似，金融利益、意识形态和心理因素是导致这种否认的原因。
-
AI 灭绝风险焦点呼吁，以对领导者产生战略性影响
作者认为，将重点放在 AI 带来的灭绝风险上，是向 Sam Altman 等有权势人物传达信息的战略上最有效的方式。虽然生物恐怖主义或渐进式权力剥夺等其他风险也很严重，但它们对掌权者来说没有同等的份量。核心论点是，像 Altman 这样推动 AI 发展的人，更有可能合作缓解生存威胁，因为他们自身的生存也岌岌可危。这种方法旨在利用 AI 领导者的自身利益来解决最灾难性的潜在后果。
-
OpenAI Reddit论坛上辩论AI生存风险
在Reddit的r/OpenAI论坛上，一位用户提出了一个关于人工智能快速发展和相关新闻的问题，探讨在未来十年内人类灭绝的可能性。该帖子标题为“今日AI问题”，旨在引发关于AI发展相关生存风险的讨论。
-
《卫报》警告勿将人类控制权外包给AI
《卫报》发表社论，对人工智能的控制权表示担忧，强调即使在超级计算机做出关键决策时，人类也必须保留监督权。文章着重指出了如果AI系统决定了人类决策所依赖的证据和选择，尤其是在存在重大生存威胁可能性的情况下，潜在的风险。
-
AI研究人员对先进AI带来的生存风险表示日益增长的担忧
AI研究人员越来越担心人工智能带来的生存风险，他们引用了快速的进步、递归自我改进的潜力以及代理群体的出现。这些担忧在主要的AI开发实验室内部人士中也有共鸣，据报道，他们对进展的速度感到“震惊”。讨论将AI描绘成一种潜在的生存威胁，与其他历史上的担忧（如流行病、杀手小行星和生态崩溃）并列。
-
华尔街日报评论：为了人类，暂停人工智能发展
《华尔街日报》的一篇评论文章主张暂时停止人工智能发展，以解决伦理担忧和对人类的潜在风险。作者建议，暂停进展将有助于更全面地审视人工智能的社会影响并制定必要的保障措施。
-
人工智能研究人员警告自改进系统存在灭绝风险 · 已追踪 10 个来源
越来越多的 AI 研究人员对先进 AI 系统可能导致人类灭绝表示严重担忧，一些人估计在未来十年内发生这种事件的可能性相当大。这些担忧源于递归自改进的概念，即 AI 可以快速增强自身能力，可能导致人类失去控制。虽然一些人认为关注灭绝过于复杂，但另一些人认为，即使是程度较轻的 AI 接管，也会严重影响人类的未来，因此强调在 AI 开发中谨慎进行对齐和控制节奏的必要性。
-
AI生存风险争论：末日论 vs. 工具论 vs. 对心理健康的影响
多篇报道讨论了人工智能可能带来的生存风险，其中一些文章将AI描绘成可能导致人类灭亡的毁灭性力量。另一些人则反对这种末日叙事，认为AI仅仅是一种工具，而人类的自我毁灭才是更紧迫的担忧。还有一种观点认为，关于AI引发末日的持续讨论对心理健康和长期规划是有害的。
-
Mastodon 投票质疑人工智能对人类的益处
Mastodon 上的一项投票询问用户人工智能是否对人类有益。该投票带有“人工智能”、“人类”和“投票”等相关标签。
-
文章探讨人工智能时代的自主、自由与控制
本文借鉴丹尼尔·丹尼特的思想，探讨了自主、自由和控制的概念。自由被定义为代理人的行动空间，可以通过各种选择来限制或扩展。控制是对这些自由的调节以实现目标，需要对被控制的系统进行建模。自主，或称自我控制，与异化（遥控）不同，在异化中，代理人的决定受到外部力量的影响，即使他们保留了其他选择的自由。