实体
Future of Humanity Institute
Future of Humanity Institute
PulseAugur coverage of Future of Humanity Institute — every cluster mentioning Future of Humanity Institute across labs, papers, and developer communities, ranked by signal.
总计 · 30天
3
90 天内 3
发布 · 30天
0
90 天内 0
论文 · 30天
1
90 天内 1
层级分布 · 90 天
主题
最近 · 第 1/1 页 · 共 3 条
-
Nick Bostrom 从 AI 末日论者转变为对 AI 未来持“忧虑的乐观主义者”
哲学家 Nick Bostrom 改变了他对人工智能的看法，从关注生存风险转向更乐观地看待人工智能改善人类生活的潜力。在他最近的一篇论文中，他提出，如果人工智能有可能无限期延长人类寿命，那么人工智能引发的毁灭性风险可能是可以接受的。Bostrom 的最新著作《Deep Utopia》探讨了一个人工智能可能创造巨大财富的未来，引发了关于后稀缺社会中人类目标和资源分配的新问题。
-
作者认为，人工智能风险的论述早于科技公司CEO出现
作者认为，对高级人工智能构成生存威胁的担忧，早于人工智能公司的兴起并且独立于它们。他回忆说，至少从2009年起，在DeepMind或OpenAI等主要人工智能实验室出现之前，他就已经参与了人工智能安全社区。这段历史，包括参与MIRI等组织以及参加会议和研究小组，被用作证据，表明人工智能风险在一个专门的社区中早已是一个公认的问题，远在科技CEO能够利用它进行炒作之前。
-
OpenAI、Google DeepMind 加强人工智能网络安全防御，应对不断演变的威胁
OpenAI 正在积极应对人工智能在网络安全领域的双重用途特性，详细介绍了其加强防御和减轻滥用的努力。该公司正在增强其模型在代码审计和漏洞修复等防御任务中的能力，旨在使防御者能够应对日益复杂的威胁。OpenAI 还报告称，已挫败了五个与国家有关联的威胁行为者的活动，并指出当前的人工智能模型在恶意网络行动方面提供的能力有限，仅比现有工具略有提升。