中文(ZH) 字节跳动 Seed 单独设立大模型安全与对齐部门

字节跳动Seed推出专门的AI安全与对齐部门

作者 PulseAugur 编辑部 · [1 个来源] · 2026-10-13 05:43

字节跳动的Seed AI实验室已成立一个专注于模型安全与对齐的新部门，名为“Seed模型对齐与准备部”。该新部门由林焱领导，将整合现有负责任AI和聊天团队的成员。该部门的主要目标是确保AI模型符合人类意图和安全约束，从而增强智能体模型的安全性，并降低与CBRN防御等高级能力相关的风险。 AI

影响字节跳动Seed的此举标志着行业日益关注AI安全作为一项核心能力，可能会影响其他实验室在模型开发和部署方面的方法。

排序理由一家主要科技公司AI实验室成立专门的AI安全与对齐部门。[lever_c_demoted from significant: ic=1 ai=1.0]

AI 生成摘要 · Google Gemini · 来自 1 个来源。我们如何撰写摘要 →

本文如何被排名

Signal score: 15 / 100; Composite score across the factors below. Higher = stronger signal that this story matters right now.
Newsworthiness bucket: Research; 一家主要科技公司AI实验室成立专门的AI安全与对齐部门。[lever_c_demoted from significant: ic=1 ai=1.0]
Source corroboration: Single-source cluster; Only one publisher covered this so far. Single-source stories can still rank when the publisher is high-authority, but they lack cross-source corroboration.
Topics: safety, model release; Editorial topic classification. Feeds into how the story surfaces on /topic/<slug> hub pages and into the per-entity coverage mix.
AI-industry relevance: High; Clearly on-topic for AI-industry coverage.
Story freshness: Breaking (< 6h); Fresh story with cross-source coverage still developing. Ranking may shift as more sources report.

完整方法见我们的编辑标准。

雷峰网 (Leiphone) TIER_1 中文(ZH) · 2026-10-13 05:43

字节跳动种子部门成立大模型安全与对齐独立部门

字节跳动 Seed 近日发出内部邮件，宣布将成立“Seed Model-Alignment&Preparedness”部门，由严林负责，汇报给 Seed 负责人吴永辉。原 Responsible AI 团队及部分 Chat 团队成员将转入新部门。据悉，该部门的设立旨在加强安全与对齐方向的投入，对齐的核心是让模型的行为与人类意图和安全约束保持一致，从而提升 Agent Model（智能体模型）安全能力，以及防范 CBRN（化学、生物、放射、核）等前沿能力风险。大模型安全风险正日益凸显，智能体逃逸引发的网络攻击等事件…