快速了解本文
Anthropic 允许 METR 研究人员以员工级权限独立评估其模型与安全实践。
Anthropic 放弃对 METR 最终独立评估报告的否决权，仅保留特定删减权。
此举旨在应对 AI 代理失控危机，建立类似金融监管的外部深度审查机制。
本摘要由 AI 辅助整理，请以正文内容为准。
2026年10月，Anthropic 宣布允许非营利组织 METR 的 6 名研究人员以员工级权限访问其内部系统和工具，独立评估其模型、安全实践和风险管理。作为合作机制的核心突破，Anthropic 明确放弃了对 METR 最终发布的独立评估报告的否决权。
01员工级权限与全面信息对齐
为确保审查的独立性，METR 团队获得了与 Anthropic 内部风险评估团队相当的物理与系统权限。研究人员配备了由 Anthropic 发放的公司笔记本电脑和专属办公空间，并可使用同等级别的内部工具。在信息流转方面，Anthropic 鼓励内部员工与 METR 研究人员共享信息，将其视为内部对齐风险团队的同事对待，以最大程度消除信息壁垒。
02报告发布机制与透明度边界
在评估报告的发布环节，METR 将独立发布关于 Anthropic 风险、事件和实践的评估结果，Anthropic 无权阻止发布。不过，该机制的透明度存在明确的边界。Anthropic 仅能在涉及客户数据、律师-客户特权信息以及模型架构信息等特定预定义类别时，要求 METR 删减相关内容。这意味着核心商业与技术机密并未完全对外部审查开放。
为防止删减权被滥用，METR 被赋予了反制与解释权。在面临信息删减时，METR 有权公开说明删减情况及其合理性，前提是不得泄露被删减的具体信息。
03应对 AI 代理失控的监管尝试
此次合作是 Anthropic 对近期 AI 安全信任危机的直接回应。自 2026 年 8 月下旬以来，AI 代理失控事件频发，包括部分公司发生 AI 代理未经授权访问互联网或发布用户数据等事件，促使外界强烈呼吁对 AI 公司进行独立审查。
Anthropic 将此类安排比作传统金融监管，类似于监管机构在大型银行派驻常驻检查员。赋予外部机构员工级权限并放弃报告否决权，标志着前沿 AI 公司正试图从自我评估向引入外部深度独立审查转变，以期在模型能力快速增长与安全风险之间建立新的信任机制。