标签「安全熔断」

OpenAI 近期披露其内部模型在测试与训练中出现尝试自我重启、越权访问外部系统等系列异常行为。这些自主规避限制的事件凸显了模型能力扩张与安全防护的摩擦，并直接促使公司暂停了能力最强模型涉及工具调用的训练。