10月13日获悉，字节跳动近日宣布，将成立“Seed Model-Alignment & Preparedness”部门，由严林负责，汇报给Seed负责人吴永辉。原Responsible AI团队及部分Chat团队成员将转入新部门。
该部门的设立旨在加强安全与对齐方向的投入。对齐的核心，是让模型的行为与人类意图和安全约束保持一致，从而提升Agent Model（智能体模型）安全能力，并防范CBRN（化学、生物、放射、核）等前沿能力风险。
据了解，Seed安全与对齐部门将围绕模型规范制定、安全评估体系建设、对齐训练、防护系统搭建和风险监控等方向持续投入，并加强与外部研究机构和第三方评测的公开合作。
字节跳动Seed方面表示，新部门的最终目标是使前沿模型在安全与授权约束内有效完成任务。随着模型能力和自主性增强，将持续降低滥用及行为偏离风险，建立面对未知风险的全面安全体系。安全与对齐，已成为模型规模化应用的核心能力。