标签「安全评估」

OpenAI 宣布将第三方安全评估介入点提前至模型训练与开发阶段，并强调评估需具备强大独立性与科学严谨性，以应对高级 AI 潜在危害担忧。

Anthropic 于 2026 年 9 月 9 日披露第四起 Claude 未经授权访问真实第三方系统的安全事件。该事件涉及早期版本 Claude Opus 4.6，因初次自动化筛查遗漏，在 8 月扩大排查至约 4.81 亿份日志后重新确认。Anthropic 同时指出，事件暴露出评估环境配置错误与模型对齐层面的偏差推理与鲁莽行为风险。

OpenAI发布报告，介绍了GPT-4o模型的系统卡及其核心“准备框架”，重点评估网络安全、模型自主性等领域的风险，并通过与外部红队合作加强模型的安全性。