AI 摘要
快速了解本文
01
Anthropic 向美国立法者提交 AI 安全法案草案。
02
草案建议设定 50 人伤亡或 10 亿美元损失红线。
03
阻断条件限于生物武器、失控及网络攻击风险。
本摘要由 AI 辅助整理，请以正文内容为准。
数智朋克讯 Anthropic 已向美国立法者提交一份 AI 安全法案草案，旨在监管人工智能的安全与安保。该草案主动提出了具体的量化安全红线，试图在 AI 监管立法进程中掌握主动权，避免被动接受更严苛或模糊的限制。
关键数据
50 人伤亡阻断红线死亡或受伤风险
$10 亿经济损失阈值模型阻断考量维度
草案为模型发布设定了明确的风险阈值。建议指出，如果确定某 AI 模型即将带来导致超过 50 人死亡或受伤的风险，政府可以阻止其发布。此外，若模型即将造成超过 10 亿美元的损失，政府也可阻止其发布，将巨额经济损失正式纳入模型阻断的考量维度。
重点提示
三大核心威胁场景
触发阻断条件的风险必须是由模型创建或释放生物武器、AI 超越人类控制或网络攻击所引发。
为避免干预范围过度扩大，法案限定了政府干预的具体场景。触发上述阻断条件的风险，必须是由模型创建或释放生物武器、AI 超越人类控制或网络攻击所引发的。这一设定排除了泛化的风险担忧，将监管焦点集中于生物安全、系统失控和网络攻击三大核心威胁。
目前，该草案仍处于向立法者推介的阶段，最终能否转化为实际落地的法律条文仍存在不确定性。