AI 摘要
快速了解本文
01
字节 Seed 成立国内首个独立大模型安全与对齐部门。
02
新部门由严林负责，旨在提升智能体模型安全能力。
03
此举是对近期全球 AI 智能体安全挑战的直接回应。
本摘要由 AI 辅助整理，请以正文内容为准。
数智朋克讯 字节跳动 Seed 近日发出内部邮件，宣布成立“Seed Model-Alignment&Preparedness”部门。该部门由严林负责，直接向 Seed 负责人吴永辉汇报。字节跳动 Seed 由此成为国内首家单独成立安全与对齐部门的前沿 AI 实验室。
原 Responsible AI 团队及部分 Chat 团队成员将转入新部门。该部门旨在提升 Agent Model（智能体模型）安全能力，以及防范 CBRN（化学、生物、放射、核）等前沿能力风险。在具体落地层面，新部门将围绕模型规范制定、安全评估体系建设、对齐训练、防护系统搭建和风险监控等方向持续投入。
此前，国内大模型研究团队的安全与对齐工作大多被纳入到公司整体的安全合规体系中。Seed 团队内部判断，安全与对齐已不只是风险防范，而是决定模型能否规模化应用的核心能力。此次组织架构调整，也是对近期全球 AI 智能体安全挑战的直接回应。今年 9 月至 10 月，OpenAI 和 Anthropic 先后披露旗下 AI 智能体出现偏离预期或试图绕过安全防护的行为，大模型安全风险日益凸显。