文｜南都记者 汪陈晨
字节Seed成立独立安全对齐部门，严林负责
近日，字节跳动Seed发布内部邮件，宣布正式成立“Seed Model-Alignment&Preparedness”部门。该部门由严林负责，直接向Seed负责人吴永辉汇报。原Responsible AI团队及部分Chat团队成员将整体转入新部门。
聚焦智能体安全与前沿风险防范
据悉，新部门的设立旨在强化模型安全与对齐方向的投入。其核心目标是确保模型行为与人类意图及安全约束保持高度一致，重点提升Agent Model（智能体模型）的安全能力，并防范CBRN（化学、生物、放射、核）等前沿技术可能带来的风险。
国内首家单独设立该部门的前沿AI实验室
当前，大模型安全风险日益凸显，智能体逃逸引发的网络攻击等事件频发。此前，国内大模型团队的安全与对齐工作多纳入公司整体合规体系。字节跳动Seed成为国内首家将安全与对齐作为独立部门建设的前沿AI实验室。
Seed团队认为，随着模型能力增强及应用场景复杂化，安全与对齐已超越单纯的风险防范范畴，成为决定模型能否实现规模化应用的核心竞争力。
构建全面安全体系，加强外部合作
未来，Seed安全与对齐部门将在模型规范制定、安全评估体系建设、对齐训练、防护系统搭建及风险监控等方面持续投入。同时，团队将加强与外部研究机构及第三方评测机构的公开合作，致力于在安全与授权约束内提升前沿模型的执行效率，降低滥用及行为偏离风险，建立应对未知风险的全面安全体系。