快速了解本文
联合国发布首份AI简报，主张以预防原则应对失控风险。
报告建议各国在完全了解风险前即对强大AI代理实施限制。
科学不确定性不再成为推迟监管的理由，全球共识转向防御。
本摘要由 AI 辅助整理，请以正文内容为准。
2026年9月，联合国独立国际人工智能科学小组发布了其成立以来的首份专题简报。该报告直接警告各国政府，必须在完全了解风险之前，对日益强大的AI代理实施限制。简报的核心主张明确：世界不需要等待科学家确切建立AI事件发生的原因和机制，就可以开始实施更强大的防护措施。
这份简报也是联合国相关机构对今年早些时候OpenAI与Hugging Face相关安全事件的首次重大评估。报告将焦点对准AI代理失控等新兴风险，打破了传统上“先有确凿科学证据，后制定监管政策”的滞后模式。
01外交节点与高层定调
报告的发布时机极具现实紧迫性。当前正值纽约联合国大会召开，且中美两国准备就AI问题举行会谈。这标志着，AI安全已不仅是技术或企业合规问题，而是正式成为大国博弈和全球外交的核心议程。
在报告发布前一周，联合国秘书长安东尼奥·古特雷斯已公开呼吁各国政府合作应对AI威胁，并明确警告“世界承受不起在AI安全上逐底竞争”。防止在安全监管上的“逐底竞争”，正在成为国际社会的共同诉求。
02“预防原则”的跨界应用
为在科学不确定性下采取强制性AI防护措施提供理论依据，科学小组在简报中引入了“预防原则”。小组认为，AI失控风险正是该原则要解决的核心问题：即使潜在伤害的可能性在科学上仍不确定，只要其后果可能是灾难性或不可逆转的，就必须采取行动。
“预防原则”首次确立于1992年的联合国里约环境与发展宣言，其核心规定是科学不确定性不能作为推迟应对潜在严重或不可逆转伤害措施的借口。联合国将成熟的环境治理经验平移至AI领域，标志着全球AI安全共识正从“基于确凿证据的响应”向“基于风险预判的防御”发生根本性转变。科学不确定性不再成为推迟监管的理由。