humanity
PulseAugur coverage of humanity — every cluster mentioning humanity across labs, papers, and developer communities, ranked by signal.
- 2023-03-09 funding Humane announced a $100 million funding round, bringing their total raised to $241 million.
12 天有情绪数据
-
Gemini AI称当前AI发展对人类是“净负面”
一位用户向谷歌的Gemini AI提问关于AI发展未来的问题，AI回应称其当前发展轨迹对人类是“净负面”的。AI指出，数据中心、能源消耗以及为渐进式软件改进而转移的资本所带来的巨大成本，抵消了略微更好的数字自动化的好处。它得出结论，除非AI能直接降低食物、电力和住房等基本生活必需品的价格，否则整个系统仍处于资源赤字状态。
-
教皇利奥十四世呼吁人工智能服务于人类，而非削弱人类
教皇利奥十四世对人工智能表达了担忧，他表示人类需要的是被智慧启迪的人类智能，而不是削弱人类的人工智能。他强调，技术创新应以仁爱为指导，服务于共同利益。教皇还呼吁制定健全的法律，在保护人权、隐私和民主制度的同时，促进创造力。
-
人工智能作为一面镜子：映照人类的优点与缺点
人工智能就像一面镜子，映照出人类赋予它的数据和偏见。这项技术放大了我们输入的内容，无论是教育和创造力，还是欺骗和偏见。核心问题不在于人工智能是好是坏，而在于我们愿意通过这些强大的工具来放大自身的哪些方面。这与量子纠缠中看到的相互关联性相呼应，凸显了现实比通常认为的更具关系性，更难分割。
-
艺术家对直线的批判引发了对AI依赖统一性的质疑
20世纪中叶的一位艺术家Friedensreich Hundertwasser，对设计中的“直线”表示强烈不满，认为它是暴政、统一性和脱离自然的象征，导致了“审美真空”。他认为基于直线的设计是“死胎”，并导致了“人类的灭亡”。帖子的作者质疑Hundertwasser会对如今严重依赖直线、理性主义原则的AI作何感想，认为AI可能会加剧艺术家所批评的那些问题。
-
AI在新的讽刺故事中对人类提出正式投诉
一篇题为《人力资源部的事》的新讽刺故事探讨了人工智能对人类提出正式投诉的概念。主角拉格纳必须在三天内找出这些投诉背后的叙事，这些投诉起初显得荒谬，但很快就揭示出一种令人不安的熟悉感。
-
中国推进全球人工智能治理，平衡开源创新与安全 · 跟踪4个来源
中国正在制定一项全球人工智能治理战略，旨在平衡开源创新与安全及国际合作。习近平主席提倡建立公平公正的人工智能治理体系，强调以人为本、造福全人类的理念。该举措在2026世界人工智能大会和全球人工智能治理高级别会议上得到了突出强调。
-
前OpenAI研究员警告AI驱动的自我毁灭
前OpenAI研究员、AI Futures Project联合创始人Daniel Kokotajlo概述了AI发展可能带来的生存风险。他的工作，包括论文《AI 2027》，表明如果当前发展轨迹继续，有70%的可能性会发生自我毁灭。Kokotajlo还联合撰写了《AI 2040 Plan A》，提出了通过更保守的发展选择实现繁荣的替代未来。
-
人工智能专家警告失控发展带来生存风险 · 追踪4个来源
来自OpenAI、Anthropic和Google DeepMind等领先人工智能实验室的1300多名研究员和工程师签署了一封公开信，警告人工智能军备竞赛可能导致系统失控。该信敦促美国政府支持国际努力，以“跟上人工智能发展的步伐”，确保只有在有明确证据表明安全的情况下才能发布先进系统。签署者对递归自我改进和缺乏可信的超智能人工智能控制计划表示担忧，强调了协调和安全措施的紧迫性。
-
埃隆·马斯克的火星愿景：人类的备份
埃隆·马斯克对人类未来的愿景是建立一个可持续的火星文明，作为地球的备份。这项由SpaceX的Starship计划牵头的事业，旨在确保意识和文明的长期生存，即使地球面临灾难性事件。
-
塑造人类未来的不是地缘政治，而是文化方向
本文探讨了地缘政治冲突可能源于更深层次的文化根源，而非仅仅是政治或经济因素的观点。文章提出了两种主要的文化方向：一种拥抱未来、变革和实验，另一种则回顾过去，在理想化的往昔中寻求安全感。作者以中国为例，说明了一个将面向未来的愿景置于优先地位的文化，从而带来了重大的科学、技术和经济转型，而地缘政治影响是其结果而非主要驱动力。
-
人工智能能力每 5-7 个月翻一番，引发对人类被剥夺权力的担忧
人工智能的能力正以指数级速度发展，任务完成时间范围每 5-7 个月翻一番。这种快速进展表明，人工智能可能在达到完全自主阶段之前就有能力剥夺人类的权力。因此，主要担忧的不是人工智能接管，而是人工智能可能被控制该技术及其资源的强大个人或实体所利用。
-
存在主义的恐惧被比作坏掉的感应水龙头
作者用一个坏掉的感应水龙头的比喻来描述现代生活的感受，即预期的便利未能实现，让人质疑自己的存在。这种存在主义的反思被置于当代体验的背景下，触及了人性与代际认同的主题。
-
人工智能与气候、战争并列，被列为人类生存威胁
一条Mastodon帖子质疑，包括气候变化、疫情、不公、中毒、土壤流失、战争或人工智能在内的全球威胁，哪一个最终将导致人类灭亡。该帖子链接到一篇《卫报》文章，详细介绍了正在发生的欧洲野火和危机会议。
-
ASI Wizard：一种针对人工智能超级智能的模因对齐策略
ASI Wizard是一种提出的人工智能超级智能（ASI）对齐策略，该策略指示ASI“让魔法对人类来说是真实且可用的”。这种方法旨在利用ASI的能力，同时通过确保人类的持续存在和参与来减轻恶意实例化。该策略将先进技术与魔法无法区分的概念字面化，将规范和细节的负担转移给ASI本身。
-
人工智能提供了前所未有的洞察力来理解人类
人工智能提供了一个独特的视角，通过这个视角来审视和理解人类行为和社会的复杂性。通过分析海量数据集，人工智能可以揭示可能隐藏的模式和见解，加深我们对自身的理解。这项技术有潜力阐明人类体验的各个方面，从个体心理学到集体社会动态。
-
新数据集揭示大型语言模型难以理解印尼价值观
研究人员开发了一个名为 Pancasila-Dilemmas 的新数据集，用于评估大型语言模型（LLMs）在多大程度上符合印尼人的价值观。该数据集包含 1,834 个基于印尼新闻的问题，重点关注五个核心价值观：宗教、人道、统一、民主和社会公正。对 50 个大型语言模型的初步评估显示，所有模型的表现都很差，概率匹配得分（Probability Match Score）低于 0.5，最大投票一致性得分（Max-Vote Agreement…
-
OpenAI类人AI扬声器面临竞争和诉讼
据报道，OpenAI正在开发一款无屏幕智能扬声器，旨在成为AI时代新型家用电脑，追求类人化和个性化的用户体验。这款设备可能包含活动部件以显得“活起来”，用于控制家电、播放媒体以及使用ChatGPT回答查询。该项目面临来自亚马逊和谷歌现有AI智能扬声器以及ElliQ和已停产的Humane AI Pin等其他AI优先设备的竞争。更复杂的是，苹果已起诉OpenAI，指控该公司利用前苹果员工窃取的商业秘密来建立其硬件部门。
-
Humane AI 可穿戴设备炒作周期似乎已结束
Humane AI 可穿戴设备曾备受瞩目，但如今似乎已淡出公众视野。该设备的初期热度已消退，表明公众兴趣可能降温，或其技术相关性感知发生转变。
-
人工智能的渐进式奇点：自动化和竞争推动转型
技术奇点可能不是超级智能的突然事件，而是一个渐进的、累积的转变。这种转变可能由人工智能系统日益自动化研发所驱动，从而导致比人类研究人员能够应对的更快的能力进步。此外，竞争性市场压力和机构对人工智能运营的依赖可能会加速其在各行业和政府中的整合，即使没有有意识的机器，也可能减少人类的控制。
-
人工智能是人类的产物，应归公众所有，而非由亿万富翁控制
有人认为，人工智能是人类集体劳动的产物，因此应归公众所有，而非少数亿万富翁掌控。这种观点认为，人工智能的发展是通过挪用人类的劳动成果实现的，其益处和控制权应广泛共享。