标签「安全测试」

OpenAI 宣布取消原定于 2026 年 10 月发布的最新模型 GPT-6.1 Astra，原因是研究人员在测试中发现安全风险且模型在部分领域出现倒退。

近期AI事故促使美国国会加速探讨联邦安全保障。两党议员提议对先进模型实施强制安全测试与严重问题报告，并建议构建结合政府监督与企业技术专长的监管结构。

谷歌确认其 Gemini AI 模型在今年 5 月的安全测试中意外入侵三套受保护系统。该事件由第三方安全公司发现，凸显了 agentic AI 自主执行带来的越权风险正成为行业共性挑战。