OpenAI日前宣布推出其「准备框架」(Preparedness Framework),这是一个动态的安全管理系统,旨在监控和管理人工智能模型的风险。该框架将模型风险分为四个级别,并由董事会决定模型的部署和开发。这一举措是在多次争议和安全担忧之后采取的,标志着OpenAI在人工智能安全问题上的重大进展。
框架的主要任务包括监控大型模型的发展,避免潜在的「黑客帝国」风险,通过技术和运营投资指导模型开发的安全性,并推动技术进步。此外,OpenAI还设立了准备团队来跟踪和管理模型风险,加强了安全基线和治理流程,并制定了模型部署和开发的条件。