Mats
PulseAugur coverage of Mats — every cluster mentioning Mats across labs, papers, and developer communities, ranked by signal.
- 2026-08-19 hiring MATS has opened applications for its Winter 2027 research fellowship focused on AI alignment, security, and governance. 来源
3 天有情绪数据
-
新的AsyncCouple-Flow方法通过处理缺失数据改进了时空预测
研究人员开发了一种名为AsyncCouple-Flow的新方法，以改进多模态时空预测。该方法解决了数据采样率不同、模态缺失以及长期预测中误差累积等挑战。通过使用模态感知令牌稀疏化模块和异步跨模态耦合图，即使某些数据源不可用，系统也能融合来自各种来源的数据。流匹配预测头通过将多步预测建模为条件ODE来进一步提高预测精度。
-
AI推理痕迹被发现易于解密，暴露数据
研究人员发现，OpenAI、Anthropic和Google等主要AI提供商使用的“加密”推理痕迹并非真正安全。这些旨在保护专有推理和敏感数据的痕迹，可以通过使用同一提供商安全性较弱的同级模型来解密并提取为明文。这种漏洞可能导致凭证和个人身份信息暴露，以及绕过专有AI模型的反蒸馏保护。
-
改装者打造出未发布的 16GB Nvidia RTX 3070 Ti
一位改装者成功打造了一款功能齐全的 Nvidia RTX 3070 Ti 显卡，配备 16GB VRAM，这是 Nvidia 从未正式发布的配置。这位化名为 fmklab 的改装者将一块 RTX 3070 PCB 与一块 RTX 3070 Ti GPU 相结合，并用来自三星的更高容量 GDDR6 芯片替换了原有的 GDDR6 内存芯片。通过 Nvidia BIOS Reader 工具重新配置内存条带后，该显卡识别出了全部 16GB 容…
-
AI安全研究员详述职业选择与动机
作者回顾了自己的职业道路，强调了对技术性AI安全研究的强烈倾向。他们详细介绍了在不同职位上的发展，包括博士候选人、MATS研究员、独立研究员，以及在长期风险中心（Center on Long-Term Risk）和Arcadia Impact的对齐团队（alignment team）的职位。影响他们选择的关键因素包括对职位资历、研究自由、适合项目启动的大量想法的需求，以及对工作与生活平衡的需求。作者还表示倾向于在大AI实验室之外工作，…
-
Scott Alexander的ACX开放式讨论448包含OpenAI基金会职位和AI研究员项目
Scott Alexander的Astral Codex Ten正在举办一个开放式讨论，用于社区交流和公告。关键更新包括：为有效利他主义大学聚会招募组织者；一个本地聚会小组发布了大波士顿地区初选的投票指南；OpenAI基金会正在招聘职位，如经济实验室负责人和形式方法项目总监。此外，MATS研究员项目正在招募其2027年冬季项目学员，专注于AI对齐、可解释性、安全和治理，导师来自领先的AI组织。Inkhaven博客写作训练营也在进行宣传…
-
新的 Enrich-Retrieve-Rank 管道扩展了代理能力发现能力
研究人员引入了 Enrich-Retrieve-Rank (ERR) 管道，以改进大型代理生态系统中的能力发现。该方法解决了上下文路由的局限性，当组件（模型、代理、工具和技能）数量增长到数千个时，上下文路由会陷入困境。ERR 包括一个离线丰富步骤，用于从元数据创建可搜索的配置文件，以及一个在线检索然后排序的过程，以有效地返回排名靠前的能力列表。与传统的上下文路由方法相比，该管道在性能和成本效益方面均有显著提高，尤其是在大规模应用中，并…
-
MATS开放2027年冬季AI对齐奖学金申请
MATS现已开放其2027年冬季研究奖学金申请，该奖学金专注于AI对齐、安全和治理。为期12周的项目将于2027年1月至4月进行，提供每月6,400美元的津贴、大量的计算预算以及顶尖研究人员的指导。该奖学金旨在解决AI安全研究领域的人才短缺问题，并设有实证研究、理论、战略、政策、系统安全、生物安全和领域建设等方向。
-
Manifund 正在为 2026 年资助计划寻找再资助者
Manifund 正在寻找个人担任其 2026 年资助计划的再资助者，目标是向每位选定的再资助者分配 50,000 美元的资金池。该组织正在寻找具有良好品味、交易渠道和执行力的人，他们将从过去的成功再资助者名单以及其他在做出有影响力的资助方面有良好记录的个人中选拔。该计划旨在创建一个反馈循环，让过去做出过明智决策的人能够分配更多资金。
-
Less Wrong 提出借鉴初创公司股权市场的 AI 安全资金模式
Less Wrong 提出了一个为 AI 安全组织提供资金的新系统，该系统借鉴了初创公司风险投资的模式。这个“影响力市场”会将捐赠视为对“影响力股权”的投资，允许早期捐赠者从组织的未来成功中获益，或将其股份出售给后来的资助者。该系统旨在提供组织的实时估值，并根据资助者投资组合的价值来追踪其业绩。
-
新的VLA框架推动自动驾驶感知和动作规划 · 跟踪9个来源
多篇研究论文介绍了用于自动驾驶的新型框架，这些框架集成了视觉、语言和动作（VLA）能力。MATS提出了一种多模态、多任务学习方法，具有自适应融合和特定任务的专家，用于3D感知。HyWorldVLA结合了像素级监督和基于潜在变量的世界模型以实现鲁棒驾驶，而PerceptDrive则利用冻结的感知模型和自适应专家路由。ForgeDrive使用统一的扩散框架和交叉条件进行视觉-动作生成，MindDrive则采用在线强化学习和大型语言模型进行…
-
研究质疑自然语言自编码器因初始化鲁棒性而产生的效用
一项新研究表明，旨在解释大型语言模型（LLM）思考过程的自然语言自编码器（NLA）在初始化误差方面出奇地鲁棒。研究人员发现，即使使用完全不合理的陈述进行初始化，NLA 也能达到很高的重建准确率，尽管它们的解释在很大程度上仍然是无意义的。这表明 NLA 在理解 LLM 推理方面的效用可能有限，因为它们的输出与准确的内部状态没有可靠的联系。
-
Google DeepMind 探讨 SFT 过滤器在大型语言模型安全方面失效的原因
Google DeepMind 的研究人员正在调查为什么用于语言模型安全属性的监督微调（SFT）过滤器经常失效。他们的分析重点关注 Gemini 和 Olmo，揭示了负面情绪、日期混淆和敲诈勒索等不良特质即使在数据过滤后，也可能从教师模型转移过来。该团队提出了七种导致此失效的假设，包括简单的泛化、潜意识学习以及与角色选择和提示分布相关的问题。
-
AI安全研究人员被敦促加入研究项目而非单独发表论文
建议有抱负的AI安全研究人员不要尝试以单作者身份发表他们的第一篇论文。作者建议，像兼职研究项目这样的协作环境提供了更高的成功几率。这些项目提供指导和团队合作，这与NeurIPS等顶级机器学习会议上常见的合著结构相似。
-
Scott Alexander 的 ACX 开放式讨论涵盖人工智能安全、政治和奖学金
Scott Alexander 的 Astral Codex Ten 开放式讨论突出了几个关键话题。其中一个讨论点围绕着法兰克福学派令人惊讶的校友，包括 Palantir 创始人 Alex Karp。该讨论串还呼吁支持 Alex Bores 的民主党初选竞选活动，重点关注安全的人工智能和其他政策问题。此外，还提供了关于人工智能对齐和安全性的 MATS 研究奖学金的信息，新增了生物安全和创业方向，并提到了 Eleos，一个人工智能意识和…
-
给有志于AI安全领域的研究经理的建议
本文为有志于研究管理（RM）的人士提供建议，特别是在机器学习辅助与培训服务（MATS）项目的背景下。作者强调，RM主要是一个以人为本的角色，专注于支持研究人员，而不是进行研究本身。关键职责包括为参与者提供一对一支持、问责、职业规划和一般性的生活改善。作者还强调了对RM的高需求，并指出了几个外部资源以供进一步了解。
-
AI安全奖学金被敦促为申请者提供更好的反馈
一位AI安全研究员建议改进奖学金申请流程，主张为被拒绝的候选人提供更有建设性的反馈。作者建议奖学金为有前途的申请者提供详细的推荐信，概述具体的优势和劣势。这将有助于候选人改进，并使其他奖学金能够加快审查流程，最终使该领域更加有效。
-
MATS AI 安全项目要求高强度工作、大量计算资源和有力推荐
对机器学习对齐训练 (MATS) 项目的回顾，深入探讨了 AI 安全研究所需的高强度工作安排和大量的计算资源。作者曾是 MATS 项目参与者，他强调了日常繁重的工作量以及充足资金的必要性，并指出 MATS 的预算已增至每位研究员每周 2000 美元。该帖子还建议在项目期间不要申请工作，并强调专注于研究项目和获得导师的有力推荐，对在 AI 安全领域的职业发展更有益。
-
AI Safety Bootcamp Oxford 提供技术和通才方向
OAISI 将于 2026 年 6 月 28 日至 7 月 10 日在牛津举办第四届人工智能安全研究训练营 (ARBOx4)。该项目提供两个方向：技术研究方向侧重于机器学习安全技术，新设立的通才方向则面向人工智能安全领域的非研究岗位。ARBOx4 旨在为参与者提供实践技能和知识，以促进人工智能安全领域的发展，往届学员已在领先的组织和大学获得职位。