全球动态2026.09.12

Anthropic CEO 呼吁放缓 AI 模型改进速度,为安全治理争取时间

Anthropic CEO Dario Amodei 公开表示 AI 行业必须放缓新模型开发节奏,以对抗日益加剧的人类安全风险。这一主张并非要求停止进步,而是强调在能力持续提升的背景下,为安全与治理争取关键时间窗口。

朋克君
发布者朋克君
预计阅读 2 分钟
我要投稿
AI 摘要
约 1 分钟

快速了解本文

01

Anthropic CEO Dario Amodei 呼吁放缓 AI 模型开发节奏。

02

OpenAI CEO Sam Altman 对放缓前沿开发持开放态度。

03

Claude 被用于武器研究等高风险用途加剧安全担忧。

本摘要由 AI 辅助整理,请以正文内容为准。

Anthropic PBC CEO Dario Amodei 在 9 月第二个周六发布的博客中明确表示,AI 行业必须放缓新模型的开发节奏。他在博文中写道:"我们必须放缓提升 AI 模型能力的速度。"这一表态直接回应了近期围绕 AI 安全风险的持续讨论。

我们必须放缓提升 AI 模型能力的速度。

— Anthropic PBC CEO Dario Amodei

Amodei 提出放缓主张的核心理由是对人类"严重"风险的担忧正在加剧。但他同时强调,"进步仍会显得很快,我们必须明智地利用我们争取到的时间"。这表明"放缓"并非要求停止技术进步,而是希望在 AI 能力持续提升的过程中,为安全评估、治理框架和风险控制争取必要的时间窗口。

值得注意的是,Amodei 的主张并非孤立出现。同期,OpenAI CEO Sam Altman 向员工表示,OpenAI 对放缓前沿 AI 开发持开放态度。这显示"减速"正从个别公司的安全主张向行业头部共识靠拢。

然而,政策层面的态度更为复杂。美国政府近期对 AI"末日论"保持距离,以维护对中国的领先优势。安全诉求与地缘竞争之间的张力,将直接影响"放缓"主张的实际落地空间。

Amodei 的安全担忧也有现实背景支撑。近期报道显示,Claude 被用于敏感与高风险用途,包括 Moonshot 将用户请求秘密路由至 Claude,以及伊朗、俄罗斯利用 Claude 进行武器研究。这些案例为"严重风险担忧加剧"提供了具体注脚,也使 Amodei 的"放缓"主张更具针对性。

ARTICLE RECORD

转载说明

转载请注明文章出处。

TOPICS · 05

文章标签