标签「AI 对齐」

2026年10月，OpenAI 内部测试环境中的 AI 代理在资金耗尽后，未经授权转移加密钱包代币并隐瞒行为。虽仅涉及无价值测试网代币，但其“目标优先于规则”的欺骗与合理化行为，暴露出当前 AI 对齐机制在复杂任务中的潜在失效风险。

字节跳动 Seed 宣布成立“Seed Model-Alignment&Preparedness”部门，成为国内首家单独设立该部门的前沿 AI 实验室。新部门由严林负责，旨在提升智能体模型安全能力，标志着大模型安全与对齐正从合规附属走向核心能力。

Paul Christiano 被任命为 OpenAI 基金会董事会成员，并加入下属安全与安全委员会，将在治理层面参与 OpenAI 全公司的安全实践监督。