AI 摘要
快速了解本文
01
Anthropic 安全研究员 Jacob Coxon 辞职并指控公司安全措施松懈。
02
高级研究员 Evan Hubinger 承认 AI 十年内致人类灭绝概率超 10%。
03
Anthropic 目前尚无确保高级 AI 安全的明确计划或正轨。
本摘要由 AI 辅助整理，请以正文内容为准。
数智朋克讯 Anthropic 安全研究员 Jacob Coxon 辞职，指控公司安全措施松懈，与 OpenAI 正竞相开发自我改进的超级智能，拿人类生命冒险。
Coxon 曾为 Anthropic 和 OpenAI 训练 AI 系统。他在 X 平台发布辞职声明，指出头部 AI 公司的共同风险行为。
辞职数小时后，Anthropic 高级安全研究员发表声明，承认 AI 有超过 10% 的概率在十年内导致人类灭绝。领导 Anthropic 一个 AI 安全团队的 Evan Hubinger 表示，公司尚无确保高级 AI 安全的计划，也未明确走上正轨。