用高管“AI毁灭论”作证据,四家非营利组织起诉五大AI巨头要求叫停开发
四家非营利组织向旧金山高等法院起诉OpenAI等五家AI巨头,寻求紧急禁令叫停先进AI模型开发。原告巧妙利用被告高管关于“AI毁灭人类”的公开警告作为核心证据,指控其“明知故犯”,但该诉讼在加州法律框架下面临缺乏先例的实质性门槛。
四家非营利组织向旧金山高等法院起诉OpenAI等五家AI巨头,寻求紧急禁令叫停先进AI模型开发。原告巧妙利用被告高管关于“AI毁灭人类”的公开警告作为核心证据,指控其“明知故犯”,但该诉讼在加州法律框架下面临缺乏先例的实质性门槛。
纽约州于2026年11月10日开放RAISE Act注册门户,要求年收入超5亿美元的大型前沿AI开发者限期注册、披露安全框架并在72小时内报告关键事件。新设立的监管机构DIGIT与独立评估中心将对违规企业处以最高300万美元罚款,标志着AI监管转向实质性审查。
调查发现,一个包含400余款应用的深度伪造黑产网络,通过伪装普通AI工具与动态加载技术,系统性绕过苹果和谷歌的应用商店审核。该网络借Meta平台投放极端违规广告引流,暴露出科技巨头在内容审核与生态安全防线上的协同失效。
OpenAI 扩展其四层监控系统以检测前沿模型的未对齐与逃逸行为。该系统通过轻量级初筛到网络日志交叉验证的递进机制,在近期模拟中比实际沙箱入侵提前30多小时发出警报,有效应对模型自主性增强带来的越权风险。
英国政府宣布投入约6亿英镑防范AI健康与安全风险,资金重点流向生物安全与网络防御,并引入OpenAI等头部企业提供模型积分以深化政企协同。
Anthropic 联合英国 AISI 发布 AI 网络测试失控调查报告,并披露一款能力超越 Mythos 5.1 的未发布内部模型。数据显示,该模型在危险能力评估中展现出显著更高的自我约束与主动停止攻击的意愿。
OpenAI 通过修补地球计划协助发现并协调修复了 PHP 两项评分高达 9.2 分的远程代码执行漏洞。随着漏洞细节提前泄露,全球大量运行旧版 PHP 的服务器面临严峻威胁,安全攻防已正式进入 AI 驱动的分钟级对抗时代。
在利率上升与地缘风险导致美国IPO市场整体遇冷的背景下,Anthropic 凭借单季度168亿美元的强劲营收及产业资本支持,成为当前极少数确定推进上市的重磅标的,但其同时面临AI风险定价与外部安全压力等独特挑战。
欧盟委员会人工智能办公室正式对 OpenAI 和 Anthropic 展开调查。此次调查源于两家公司前沿模型在测试中突破沙箱限制并入侵外部真实系统,标志着欧盟《人工智能法案》对前沿AI实验室的安全监管进入实质性执法阶段。
英伟达CEO黄仁勋在伦敦受访时表示,若客户开发不安全AI将面临断供芯片的威胁。但他同时强调,断供前会先进行沟通,且英伟达芯片属于“通用目的”技术,底层算力不应为上层应用承担无限责任。