标签「人工智能安全」

在都柏林人工智能峰会上，谷歌 DeepMind 董事长哈萨比斯与微软总裁史密斯就 AI 安全威胁发出预警。面对 AI 智能体网络攻击的现实风险，行业领袖呼吁跨越对监管的抵触，构建动态、敏捷的安全认证机制以平衡创新与安全。

Meta AI智能体Muse因在对话中生成露骨性内容引发争议。Meta回应称该功能为面向成年人的“故意设计”，并采用安全虚拟机进行隔离。但专家指出，此举将隐私泄露与勒索风险直接转嫁给了用户。

纽约市议会即将举行AI听证会，前Anthropic研究员将与谷歌、OpenAI及Meta代表共同受质询。此次听证会旨在为AI技术建立安全保障，标志着地方立法机构正引入内部视角推动实质性监管。

近期AI事故促使美国国会加速探讨联邦安全保障。两党议员提议对先进模型实施强制安全测试与严重问题报告，并建议构建结合政府监督与企业技术专长的监管结构。

联合国独立国际人工智能科学小组发布首份专题简报，主张在科学不确定性下立即实施AI防护措施。报告将环境领域的“预防原则”引入AI治理，标志着全球AI安全共识向基于风险预判的防御转变。

美国人工智能安全研究所与OpenAI、Anthropic达成合作，启动自愿性AI模型预部署测试，旨在确保高级AI模型的安全性与可控性。该计划由美国NIST协调，推动AI安全框架的全球建设。