标签「大模型安全」

字节跳动 Seed 宣布成立“Seed Model-Alignment&Preparedness”部门，成为国内首家单独设立该部门的前沿 AI 实验室。新部门由严林负责，旨在提升智能体模型安全能力，标志着大模型安全与对齐正从合规附属走向核心能力。

Anthropic 宣布推出针对模型蒸馏的新防护措施，称可使窃取数据量降低最高 99%，并已封禁数万个相关账号，同时公开点名智谱 AI 涉嫌蒸馏行为。

在2024世界人工智能大会上，发布了国内首份《大模型安全实践》白皮书，强调了确保大模型发展中的安全性、可靠性和可控性。尽管大模型在智能涌现能力上取得进展，但在专业决策和安全性方面仍面临挑战。