全球动态2026.09.23

OpenAI 宣布允许第三方在模型开发早期进行安全评估

OpenAI 宣布将第三方安全评估介入点提前至模型训练与开发阶段,并强调评估需具备强大独立性与科学严谨性,以应对高级 AI 潜在危害担忧。

朋克君
发布者朋克君
预计阅读 2 分钟
我要投稿
AI 摘要
约 1 分钟

快速了解本文

01

OpenAI 计划在模型开发早期允许第三方进行安全评估。

02

外部组织将参与新 AI 模型的训练、评估和推出全过程。

03

评估机制需具备独立性,遵循科学严谨性与稳健安全实践。

本摘要由 AI 辅助整理,请以正文内容为准。

数智朋克讯 OpenAI 宣布,计划在模型开发周期的更早阶段允许第三方团队对其 AI 模型进行安全风险审查。此举旨在将安全评估的介入点从模型发布后提前至训练和开发阶段,通过早期风险识别来缓解外界对高级 AI 潜在危害的担忧。

根据该计划,外部组织将在新 AI 模型的训练、评估和推出全过程中参与技术安全评估。目前,OpenAI 正在积极与各类组织进行沟通,参与方不仅包括过去曾合作过的机构,也涵盖了此前未曾合作过的各类团队,以扩大第三方评估的参与范围。

为确保第三方评估的有效性,OpenAI 明确了相关优先事项与核心原则。公司强调,评估机制必须具备强大的独立性,并遵循科学严谨性与稳健的安全实践,同时要求明确各方责任。该计划是 OpenAI 解决外界对 AI 技术潜在危害担忧的持续努力的一部分。

ARTICLE RECORD

转载说明

转载请注明文章出处。

TOPICS · 05

文章标签