DIGIPUNK
去投稿
发表于:2023年12月20日

OpenAI推出新安全框架,强调AI模型风险评估与管理

数智朋克
发布者:数智朋克
阅读:1 分钟
我要投稿
   OpenAI日前宣布推出其「准备框架」(Preparedness Framework),这是一个动态的安全管理系统,旨在监控和管理人工智能模型的风险。该框架将模型风险分为四个级别,并由董事会决定模型的部署和开发。这一举措是在多次争议和安全担忧之后采取的,标志着OpenAI在人工智能安全问题上的重大进展。
   框架的主要任务包括监控大型模型的发展,避免潜在的「黑客帝国」风险,通过技术和运营投资指导模型开发的安全性,并推动技术进步。此外,OpenAI还设立了准备团队来跟踪和管理模型风险,加强了安全基线和治理流程,并制定了模型部署和开发的条件。

本文链接: https://www.shuzhipunk.com/articles/YJ17hf1ep8H
转载请注明文章出处

文章所属标签
人工智能
大模型
OpenAI
open ai