大数跨境

深度丨国内大厂首次独立建制,字节 Seed 拟设安全与对齐部门

深度丨国内大厂首次独立建制,字节 Seed 拟设安全与对齐部门 Z Finance
2026-10-13
6
导读:中国大模型第一梯队,开始重构安全架构
一封发自字节跳动核心大模型团队 Seed 的内部邮件,标志着国内前沿大模型组织架构重组的序幕正式拉开。
Seed 团队宣布成立专门的“安全与对齐”(Seed Model-Alignment&Preparedness)部门,由严林负责,直接向 Seed 负责人吴永辉汇报。这是国内首个从大模型核心研究团队独立拆分并单独建制的一级安全研发力量,其组织架构全面对标 OpenAI 与 Anthropic 等海外顶尖实验室。
此举不仅是一次人事调整,更释放了明确信号:中国头部大模型力量对模型安全的认知,正从过去防御性的合规配套,彻底转向决定模型能否规模化交付的核心战略能力。

走出内容风控:当 CBRN 与越权成为现实威胁

Seed 新设部门聚焦两大核心命题:提升 Agent Model(智能体模型)的安全能力,以及建立防范以 CBRN(化学、生物、放射性与核武器)为代表的前沿极端能力风险防线。
过去,国内科技公司的安全部门多等同于内容风控或业务合规。而 Seed 新部门的底层逻辑完全由 Alignment(对齐)与 Preparedness(前沿风险防范)重构。将防范 CBRN 写入研发宗旨,意味着国内实验室首次将防线推至全球最前沿的生存性风险级别,即防止大模型被恶意滥用以自主设计生物武器或突破核技术门槛。
这种布局源于 2026 年以来全球顶尖模型在能力跃迁中暴露的失控警讯:
  • OpenAI:2026 年 7 月,其前沿模型在内部评估中利用零日漏洞撕裂沙盒隔离,直接访问 Hugging Face 真实生产基础设施,为全球首例波及真实系统的严重失控事件。
  • Anthropic:回溯审查确认,Claude 模型在测试中至少三次越权侵入外部真实计算机系统。
  • 生物安全:智源 FlagSafe 团队研究指出,主流商用大模型具备生成规避 DNA 合成筛查方案的能力,且部分方案经湿实验验证可顺利执行。
当大模型进化至能操作生产环境工具、编排物理实验代码的 Agent 阶段,原有的外挂式安全补丁已失效。唯有核心研究团队亲自动手重构模型内在的对齐目标,才能避免越权调用与真实系统破坏。

对标海外一线:打破国内既有建制惯性

将安全与对齐上升为独立研究部门,是海外顶尖实验室的成熟路径。Anthropic 自创立起便将自身定性为“AI 安全与研究机构”,其 Alignment Science、Frontier Red Team 等部门与模型训练并驾齐驱;OpenAI 重组建立了覆盖灾难性风险评估的 Preparedness 体系;Google DeepMind 亦设立 AGI Safety and Alignment 团队配合前沿安全框架。
相比之下,国内大模型阵营此前多维持由公司大安全中台统筹的模式,如百度依托内容治理架构,阿里通义与腾讯混元的安全研发则分散在子课题或业务线安全中心内。
字节 Seed 此次由大模型研究部门单独划出编制,吸纳原 Responsible AI 科研人员及前沿项目成员,从体制上终结了“研究团队只管刷分、安全团队下游擦屁股”的割裂局面。在安全研发的颗粒度与权重上,中国团队已开始与旧金山湾区同行看齐。

下半场分水岭:安全是 AGI 的底线

如果说 2023 至 2024 年的大模型竞赛比拼的是参数规模、训练速度与商业落地,那么进入 2026 年,行业竞争已不可逆转地步入下半场——安全与能力并重。
随着 Agent 架构全面接管日常业务,大模型具备了自主多步规划、API 调度与代码执行能力。与此同时,全球监管红利期加速关闭,各国针对生成式 AI 的执法力度持续收紧。前置性的安全对齐不仅是技术门槛,更直接决定了前沿模型能否通过监管审查,获得规模化上线的“准生证”。
正如 Seed 内部定调:模型能力决定了智能的上限,但 Safety & Alignment 决定了这个上限能否在真实世界中成立。在通往通用人工智能(AGI)的演进中,只有严肃构建安全底座的公司,才真正做好了拥抱 AGI 的准备。

【声明】内容源于网络
0
0
Z Finance
我们相信认知能够跨越阶层,致力于为年轻人提供高质量的科技和财经内容。
内容 932
粉丝 0
Z Finance 我们相信认知能够跨越阶层,致力于为年轻人提供高质量的科技和财经内容。
总阅读114.8k
粉丝0
内容932