标签「安全研究」

Anthropic 安全研究员 Jacob Coxon 辞职，指控公司安全措施松懈，与 OpenAI 竞相开发自我改进的超级智能。数小时后，Anthropic 高级安全研究员承认 AI 有超 10% 概率在十年内导致人类灭绝，且公司尚无确保安全的具体计划。

上海交通大学与蚂蚁集团联合成立“人工智能与安全联合研究中心”，聚焦人工智能、网络安全等前沿技术，推动技术创新与行业突破。研究中心将开展多项实验室建设和产业化项目，促进科技成果转化。

英国政府拟在明年推出AI监管法案，将自愿AI测试协议上升为法律义务，重点聚焦生成式AI的风险防控。政府承诺支持AI基础设施发展，并计划成立独立的AI安全研究所，专注于国民利益。