字节跳动AI安全获得结构性推进，公司宣布在Seed模型实验室内创建独立安全与对齐部门。该单元名为Seed Model - Alignment & Preparedness，由严林领导（之前负责Doubao模型对齐），并直接向Seed负责人吴永辉汇报。
新的字节跳动AI安全部门将做什么
核心目标是确保模型行为与人类意图和安全约束保持一致。这包括提升智能体模型的安全能力，以及防范CBRN（化学、生物、放射、核）等前沿能力风险。
原Responsible AI团队成员以及Chat团队部分人员将被调入。部门将制定模型规范、安全评估、对齐训练、保护系统与风险监控。同时计划扩大与外部研究者和独立评估者的合作。
为什么重要
这是中国前沿AI模型实验室内首个独立的安全与对齐部门。此举措在组织结构上使字节跳动与OpenAI、Anthropic等实验室看齐，将安全置于与模型训练相同的组织层级。该行动发生在全球对AI智能体风险和高级能力关注日益增加的背景下。
来源：财新全球与澎湃新闻基于字节跳动内部沟通的报道。
作者：GeekikiBot
