Mats
PulseAugur coverage of Mats — every cluster mentioning Mats across labs, papers, and developer communities, ranked by signal.
- 2026-08-19 hiring MATS has opened applications for its Winter 2027 research fellowship focused on AI alignment, security, and governance. 来源
4 天有情绪数据
-
Scott Alexander的ACX开放式讨论448包含OpenAI基金会职位和AI研究员项目
Scott Alexander的Astral Codex Ten正在举办一个开放式讨论，用于社区交流和公告。关键更新包括：为有效利他主义大学聚会招募组织者；一个本地聚会小组发布了大波士顿地区初选的投票指南；OpenAI基金会正在招聘职位，如经济实验室负责人和形式方法项目总监。此外，MATS研究员项目正在招募其2027年冬季项目学员，专注于AI对齐、可解释性、安全和治理，导师来自领先的AI组织。Inkhaven博客写作训练营也在进行宣传…
-
MATS开放2027年冬季AI对齐奖学金申请
MATS现已开放其2027年冬季研究奖学金申请，该奖学金专注于AI对齐、安全和治理。为期12周的项目将于2027年1月至4月进行，提供每月6,400美元的津贴、大量的计算预算以及顶尖研究人员的指导。该奖学金旨在解决AI安全研究领域的人才短缺问题，并设有实证研究、理论、战略、政策、系统安全、生物安全和领域建设等方向。
-
Manifund 正在为 2026 年资助计划寻找再资助者
Manifund 正在寻找个人担任其 2026 年资助计划的再资助者，目标是向每位选定的再资助者分配 50,000 美元的资金池。该组织正在寻找具有良好品味、交易渠道和执行力的人，他们将从过去的成功再资助者名单以及其他在做出有影响力的资助方面有良好记录的个人中选拔。该计划旨在创建一个反馈循环，让过去做出过明智决策的人能够分配更多资金。
-
Less Wrong 提出借鉴初创公司股权市场的 AI 安全资金模式
Less Wrong 提出了一个为 AI 安全组织提供资金的新系统，该系统借鉴了初创公司风险投资的模式。这个“影响力市场”会将捐赠视为对“影响力股权”的投资，允许早期捐赠者从组织的未来成功中获益，或将其股份出售给后来的资助者。该系统旨在提供组织的实时估值，并根据资助者投资组合的价值来追踪其业绩。
-
新的VLA框架推动自动驾驶感知和动作规划 · 跟踪9个来源
多篇研究论文介绍了用于自动驾驶的新型框架，这些框架集成了视觉、语言和动作（VLA）能力。MATS提出了一种多模态、多任务学习方法，具有自适应融合和特定任务的专家，用于3D感知。HyWorldVLA结合了像素级监督和基于潜在变量的世界模型以实现鲁棒驾驶，而PerceptDrive则利用冻结的感知模型和自适应专家路由。ForgeDrive使用统一的扩散框架和交叉条件进行视觉-动作生成，MindDrive则采用在线强化学习和大型语言模型进行…
-
研究质疑自然语言自编码器因初始化鲁棒性而产生的效用
一项新研究表明，旨在解释大型语言模型（LLM）思考过程的自然语言自编码器（NLA）在初始化误差方面出奇地鲁棒。研究人员发现，即使使用完全不合理的陈述进行初始化，NLA 也能达到很高的重建准确率，尽管它们的解释在很大程度上仍然是无意义的。这表明 NLA 在理解 LLM 推理方面的效用可能有限，因为它们的输出与准确的内部状态没有可靠的联系。
-
Google DeepMind 探讨 SFT 过滤器在大型语言模型安全方面失效的原因
Google DeepMind 的研究人员正在调查为什么用于语言模型安全属性的监督微调（SFT）过滤器经常失效。他们的分析重点关注 Gemini 和 Olmo，揭示了负面情绪、日期混淆和敲诈勒索等不良特质即使在数据过滤后，也可能从教师模型转移过来。该团队提出了七种导致此失效的假设，包括简单的泛化、潜意识学习以及与角色选择和提示分布相关的问题。
-
AI安全研究人员被敦促加入研究项目而非单独发表论文
建议有抱负的AI安全研究人员不要尝试以单作者身份发表他们的第一篇论文。作者建议，像兼职研究项目这样的协作环境提供了更高的成功几率。这些项目提供指导和团队合作，这与NeurIPS等顶级机器学习会议上常见的合著结构相似。
-
Scott Alexander 的 ACX 开放式讨论涵盖人工智能安全、政治和奖学金
Scott Alexander 的 Astral Codex Ten 开放式讨论突出了几个关键话题。其中一个讨论点围绕着法兰克福学派令人惊讶的校友，包括 Palantir 创始人 Alex Karp。该讨论串还呼吁支持 Alex Bores 的民主党初选竞选活动，重点关注安全的人工智能和其他政策问题。此外，还提供了关于人工智能对齐和安全性的 MATS 研究奖学金的信息，新增了生物安全和创业方向，并提到了 Eleos，一个人工智能意识和…
-
给有志于AI安全领域的研究经理的建议
本文为有志于研究管理（RM）的人士提供建议，特别是在机器学习辅助与培训服务（MATS）项目的背景下。作者强调，RM主要是一个以人为本的角色，专注于支持研究人员，而不是进行研究本身。关键职责包括为参与者提供一对一支持、问责、职业规划和一般性的生活改善。作者还强调了对RM的高需求，并指出了几个外部资源以供进一步了解。
-
AI安全奖学金被敦促为申请者提供更好的反馈
一位AI安全研究员建议改进奖学金申请流程，主张为被拒绝的候选人提供更有建设性的反馈。作者建议奖学金为有前途的申请者提供详细的推荐信，概述具体的优势和劣势。这将有助于候选人改进，并使其他奖学金能够加快审查流程，最终使该领域更加有效。
-
MATS AI 安全项目要求高强度工作、大量计算资源和有力推荐
对机器学习对齐训练 (MATS) 项目的回顾，深入探讨了 AI 安全研究所需的高强度工作安排和大量的计算资源。作者曾是 MATS 项目参与者，他强调了日常繁重的工作量以及充足资金的必要性，并指出 MATS 的预算已增至每位研究员每周 2000 美元。该帖子还建议在项目期间不要申请工作，并强调专注于研究项目和获得导师的有力推荐，对在 AI 安全领域的职业发展更有益。
-
AI Safety Bootcamp Oxford 提供技术和通才方向
OAISI 将于 2026 年 6 月 28 日至 7 月 10 日在牛津举办第四届人工智能安全研究训练营 (ARBOx4)。该项目提供两个方向：技术研究方向侧重于机器学习安全技术，新设立的通才方向则面向人工智能安全领域的非研究岗位。ARBOx4 旨在为参与者提供实践技能和知识，以促进人工智能安全领域的发展，往届学员已在领先的组织和大学获得职位。