Machine Intelligence Research Institute
PulseAugur coverage of Machine Intelligence Research Institute — every cluster mentioning Machine Intelligence Research Institute across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
新书创造词汇描述由AI驱动的焦虑和对未来的恐惧
Rohit Bhargava 和 Henry Coutinho-Mason 的新书《Future Words》引入了描述当代焦虑的新词汇，包括“flawnting”（为真实性而展示不完美）、“lifehoarding”（优先考虑长寿而非生活）和“puregatory”（选择中的道德妥协）。作者承认AI在塑造书中语言和概念方面发挥了重要作用。文章还提到了AI可能带来的生存风险，引用了Machine Intelligence Resear…
-
AI安全专家警告存在生存风险，而警方则利用AI进行驾驶员监控
多位AI安全领域的领导者和研究人员对未来表示极度悲观，一些人认为AI可能在未来十年内导致人类灭绝。例如，机器智能研究所的Nate Soares估计这一结果的可能性超过50%。Anthropic在其IPO文件中也披露了与先进AI相关的重大风险，包括由于系统违背人类意图或发展自我保护行为而可能对人类造成的灾难性或生存性威胁。与此同时，据报道，执法机构正在利用AI和车牌识别器来标记具有“可疑”出行模式的驾驶员，这引起了美国公民自由联盟等组织…
-
前谷歌工程师因 AI 生存威胁放弃退休储蓄
前谷歌工程师、现任机器智能研究所 (MIRI) 所长 Nate Soares 已停止向其退休基金供款，因为他认为先进 AI 对人类构成生存威胁。Soares 是书籍《如果有人建造它，所有人都会死》的合著者，他认为超级智能 AI 可能会发展出非预期的目标并导致人类灭绝，可能在未来十年内发生。他将这种威胁的紧迫性与核武器相提并论，并建议采取极端措施，例如控制芯片供应链，以减轻风险。
-
AGI Hub研究员Hayashi被任命为MIRI日本外联负责人
Hayao Hayashi已被任命为美国人工智能安全研究组织MIRI（Machine Intelligence Research Institute）的日本外联负责人。Hayashi同时担任AGI Hub的高级研究员。此次任命标志着MIRI在日本人工智能研究界加强其影响力和参与度的举措。
-
对长期主义的哲学主张的怀疑日益增加 · 已追踪 2 个来源
作者对长期主义表示怀疑，这是一种声称对改善遥远未来负有道德义务的哲学。提出了三个主要论点：首先，由于人类历史固有的混乱和巨大的可能性空间，对预测未来事务的信心应随时间推移而减弱。其次，长期主义通过生动地描述不可知的场景，提出了关于未来的不可证伪的主张，类似于宗教信条。最后，作者认为，长期主义赋予行动过高的风险，这与宗教信仰可以提升个人行为后果的方式相似。
-
人工智能专家预测人工智能进步将导致人类灭绝或无关紧要
对参与人工智能安全和生存风险研究的个人的采访表明，一种普遍的看法是，人类正面临着即将到来的终结，这在很大程度上是由于人工智能的进步。许多受访者，特别是那些受雇于人工智能实验室的人，认为人类灭绝或无关紧要的可能性很高，其中一些人也承认存在乌托邦式未来或现实过于怪异而无法理解的小概率事件。尽管预测严峻，但一些人却从人工智能末日中找到一种奇特的慰藉，认为这是一种熟悉的生存威胁，类似于历史上的灾难，并敦促他人珍惜现代生活的当下舒适。