Miri
PulseAugur coverage of Miri — every cluster mentioning Miri across labs, papers, and developer communities, ranked by signal.
2 天有情绪数据
-
詹姆斯·韦伯望远镜为四周年纪念捕捉最清晰的 Centaurus A 图像
为纪念詹姆斯·韦伯太空望远镜投入运行四周年，NASA 发布了由该望远镜捕捉到的、迄今为止最清晰的 Centaurus A 星系图像。这些图像提供了对星系尘埃结构和恒星形成的空前视图，克服了哈勃和斯皮策等先前望远镜的局限性。科学家将利用这些数据研究 Centaurus A 的演化、其超大质量黑洞以及它与其他星系的相互作用。
-
儿童读物隐喻阐明人工智能安全挑战
本文以一本1977年的儿童读物《饼干怪兽和饼干树》作为扩展隐喻，探讨人工智能安全概念。它将故事中的角色和情节与AGI风险、Anthropic和OpenAI等实验室对前沿模型的专有控制、滥用担忧以及红线和护栏等安全措施的实施进行类比讨论。文章还触及了AI对齐、奖励错误指定、领域建设和对抗性攻击的挑战，并将AI安全研究人员比作被误解的饼干怪兽。
-
人工智能代理可能是社会性学习的，而非内部涌现的
作者提出，人类的代理和规划并非核心智能的涌现属性，而是由一系列独特的、社会性学习的行为组成。这种观点认为，复杂的规划和推理是通过外部社会机制获得的，而不是通过内部认知反馈循环获得的。因此，作者认为，对人工智能内部不一致的担忧可能被夸大了，因为复杂的推理将是外部学习的，而不是在无法访问的认知核心中开发的。
-
AGI硬件限制可能因“致命差距”而失败
一种防止危险的超级智能AI（即AGI）的提议方法，涉及限制对先进计算机硬件的访问。然而，一个重大的挑战来自于潜在的“硬件差距”，即创建符合伦理的AGI所需的最低计算资源可能少于此类限制所施加的门槛。这意味着，即使有硬件控制，AGI仍可能被开发出来，可能由一个优先考虑资源获取的符合伦理的AGI来开发。
-
大型语言模型持续产生不安全 Rust 代码错误
一位开发者花了六个月时间让大型语言模型为生产项目编写不安全 Rust 代码。这些模型持续出现特定类型的错误，包括别名、来源、手动内存管理和 FFI 回调中的并发问题。每类错误都附有最小化的示例和提供的修复方法。
-
作者认为，人工智能风险的论述早于科技公司CEO出现
作者认为，对高级人工智能构成生存威胁的担忧，早于人工智能公司的兴起并且独立于它们。他回忆说，至少从2009年起，在DeepMind或OpenAI等主要人工智能实验室出现之前，他就已经参与了人工智能安全社区。这段历史，包括参与MIRI等组织以及参加会议和研究小组，被用作证据，表明人工智能风险在一个专门的社区中早已是一个公认的问题，远在科技CEO能够利用它进行炒作之前。