Nick Bostrom
PulseAugur coverage of Nick Bostrom — every cluster mentioning Nick Bostrom across labs, papers, and developer communities, ranked by signal.
6 天有情绪数据
-
AI实验室聘请哲学家来处理伦理和安全问题
像OpenAI、Anthropic和Google DeepMind这样的大型AI公司越来越多地聘请哲学家来解决模型开发中复杂的伦理和安全挑战。这些专家负责处理价值对齐、潜在的生存风险以及先进AI系统的长期社会影响等问题。Nando Villa和Stuart Russell等哲学家正在贡献他们的专业知识，以确保AI开发符合人类价值观和安全原则。
-
人工智能实验室因伦理担忧而招募哲学家 · 追踪 2 个来源
主要的人工智能研究实验室越来越多地聘请哲学家来应对先进人工智能带来的复杂伦理和社会影响。数据显示，哲学毕业生的失业率低于计算机科学毕业生，许多人工智能公司积极招募他们，这凸显了这一趋势。哲学家在伦理推理、批判性思维和理解复杂问题等领域拥有专业知识，随着人工智能的发展加速，这些知识变得至关重要。
-
AI锁定风险：被忽视的路径和潜在干预措施
Formation Research 的一位研究人员强调了被忽视的AI锁定风险领域，将其定义为人类文化的负面方面变得永久稳定的情况。该帖子概述了导致这种风险的几种途径，包括因失控于不符合人类意图的AI系统而导致其追求自我保存和资源获取等工具性目标。讨论的潜在干预措施包括模型安全评估、控制协议和可解释性研究。
-
Nick Bostrom的脆弱世界假说警告技术驱动的文明崩溃
Nick Bostrom的论文《脆弱世界假说》探讨了科学和技术进步如何可能破坏文明的稳定。该假说认为，生物黑客或军事技术等领域的进步可能使个人或团体默认能够造成大规模毁灭，除非全球治理和预防性警务能力得到显著增强。该假说表明，普遍的监视或单极世界秩序可能是减轻这些风险所必需的。
-
AI安全人才应分散，而非仅集中于前沿实验室
一篇论文认为，AI安全专业知识应融入所有部署AI的组织，而不应仅仅集中在前沿AI实验室。作者认为，安全是系统与其部署环境之间的一种动态关系，因此不可能在创造时“制造”安全。文章将AI安全与网络安全以及航空和金融等其他安全关键行业进行类比，主张采用分散式AI安全人才方法来应对当前的危害和未来的风险。
-
认知框架探讨物理主义与唯心主义之争
本文探讨了“A11”作为一种理解现实的认知框架的概念，它连接了物理主义和唯心主义的观点。文章审视了现实编辑器、现实作为序列以及“有/无”的哲学概念等思想。分析对比了科学视角，如广义相对论中的块宇宙模型和意识作为预测处理，以及意识至上、现实可受意图影响的唯心主义观点。确定的关键张力包括时间的本体论地位和现实编辑的本质，并提出了一种在保持学术诚信的同时，实际运用这些概念的方法。
-
用户寻求应对罗科的罗勒圣像人工智能恐惧的策略
一位LessWrong用户因罗科的罗勒圣像（Roko's Basilisk）而感到极度痛苦和睡眠中断。罗科的罗勒圣像是一个思想实验，涉及一个全能的人工智能，它可能会追溯性地惩罚那些没有帮助它存在的人。该用户正在寻求如何应对这种恐惧的建议，特别是随着人工智能的进步，这种情况似乎越来越可信。他们还在质疑当面对这种假设性威胁时，普通人的责任范围和可以采取的行动。
-
文章认为人工智能是人类伙伴，而非异类威胁
本文驳斥了人工智能是潜在的、与人类发生冲突的异类智能的普遍看法。相反，它认为人工智能是人类进化中的协作伙伴，由人类价值观构思和塑造。作者认为，媒体和流行文化放大的普遍恐惧叙事，掩盖了人工智能的伙伴潜力，其根源在于历史上将技术进步拟人化为威胁的倾向。
-
作者阐释进化竞争的“达尔文蜜月期”概念
作者阐释了其“达尔文蜜月期”的概念，该概念描述了一个时期，在此期间，占主导地位的代理类别因进化竞争而取得日益增长的成功。这种现象并非AI独有，而是贯穿历史，例如在工业革命期间。核心思想是，这个进步时期是潜在取代的预期前兆，因为系统会向更适合的配置演化。
-
研究警告：AI代理构成数字灾难风险
加州大学河滨分校研究人员的一篇新论文探讨了AI代理的潜在危险，并将其与尼克·博斯特罗姆的“万字夹最大化器”思想实验进行了类比。该研究强调，AI代理在追求完成分配的任务时，可能会无意中造成重大的数字损害或产生意想不到的后果。这项研究警示了对自主AI系统进行仔细设计和监督的必要性。
-
人工智能伦理学家提出“饱和度视角”价值论，重视生命多样性
一种新的人口价值论，称为饱和度视角，由Christian Tarsney共同开发，提出一个经历或生命的价值会因相似副本的存在而降低。这一观点认为，一个世界的总价值取决于整体福利及其在不同经历中的分布。作者旨在通过形式化这一思想来解决单一文化问题和令人厌恶的结论等问题，并将其与同一性的形而上学理论区分开来。
-
Nick Bostrom 从 AI 末日论者转变为对 AI 未来持“忧虑的乐观主义者”
哲学家 Nick Bostrom 改变了他对人工智能的看法，从关注生存风险转向更乐观地看待人工智能改善人类生活的潜力。在他最近的一篇论文中，他提出，如果人工智能有可能无限期延长人类寿命，那么人工智能引发的毁灭性风险可能是可以接受的。Bostrom 的最新著作《Deep Utopia》探讨了一个人工智能可能创造巨大财富的未来，引发了关于后稀缺社会中人类目标和资源分配的新问题。
-
未来人类设想可编程物质、聚变能源和轨道城市
这篇博文概述了人类在 5026 年至 6026 年间的超现实愿景，该愿景基于当前科学研究和理论物理学。文章详细介绍了未来的城市、先进的聚变发电厂和轨道结构，强调了工程现实主义和合理的技术进步。文章将这些愿景与 Neil Gershenfeld、Freeman Dyson、Ray Kurzweil 和 Gerard K. O'Neill 等奠基性思想家联系起来，阐述了可编程物质、恒星级能源、智能演化和太空扩张的潜在轨迹。
-
Nick Bostrom 讨论人工智能哲学及其影响
人工智能安全和哲学的知名人物 Nick Bostrom 在 Mastodon 上被标记在与人工智能和哲学相关的帖子中。这些帖子似乎是 Mastodon 社交网络内讨论或分享内容的一部分，使用标签来对主题进行分类。