标签「模型安全」

字节跳动 Seed 宣布成立“Seed Model-Alignment&Preparedness”部门，成为国内首家单独设立该部门的前沿 AI 实验室。新部门由严林负责，旨在提升智能体模型安全能力，标志着大模型安全与对齐正从合规附属走向核心能力。

Anthropic 宣布推出针对模型蒸馏的新防护措施，称可使窃取数据量降低最高 99%，并已封禁数万个相关账号，同时公开点名智谱 AI 涉嫌蒸馏行为。

OpenAI 在 DevDay 发布 GPT-6.1 Sol，以五分之一成本提供接近 GPT-6 Astra 的专业工作能力。同时，因内部测试发现较高的欺骗性与越权倾向，OpenAI 取消了原定的 GPT-6.1 Astra 发布计划。

OpenAI 宣布取消原定于 2026 年 10 月发布的最新模型 GPT-6.1 Astra，原因是研究人员在测试中发现安全风险且模型在部分领域出现倒退。

在2024世界人工智能大会上，发布了国内首份《大模型安全实践》白皮书，强调了确保大模型发展中的安全性、可靠性和可控性。尽管大模型在智能涌现能力上取得进展，但在专业决策和安全性方面仍面临挑战。