AI 摘要
快速了解本文
01
OpenAI 计划在模型开发早期允许第三方进行安全评估。
02
外部组织将参与新 AI 模型的训练、评估和推出全过程。
03
评估机制需具备独立性,遵循科学严谨性与稳健安全实践。
本摘要由 AI 辅助整理,请以正文内容为准。
数智朋克讯 OpenAI 宣布,计划在模型开发周期的更早阶段允许第三方团队对其 AI 模型进行安全风险审查。此举旨在将安全评估的介入点从模型发布后提前至训练和开发阶段,通过早期风险识别来缓解外界对高级 AI 潜在危害的担忧。
根据该计划,外部组织将在新 AI 模型的训练、评估和推出全过程中参与技术安全评估。目前,OpenAI 正在积极与各类组织进行沟通,参与方不仅包括过去曾合作过的机构,也涵盖了此前未曾合作过的各类团队,以扩大第三方评估的参与范围。
为确保第三方评估的有效性,OpenAI 明确了相关优先事项与核心原则。公司强调,评估机制必须具备强大的独立性,并遵循科学严谨性与稳健的安全实践,同时要求明确各方责任。该计划是 OpenAI 解决外界对 AI 技术潜在危害担忧的持续努力的一部分。

