快速了解本文
GPT-6.2 反蒸馏防护使推理内容提取成功率断崖式下降。
模型层与 API 层协同构建系统级防护以保护思考链资产。
OpenAI 每周封禁数千至数万个涉及未经授权蒸馏的账号。
本摘要由 AI 辅助整理,请以正文内容为准。
当地时间11月20日,OpenAI发布针对“对抗性蒸馏”的最新防御进展,重点加强了对GPT-6.2 Astra和GPT-6.2 Sol模型内部推理思考链(CoT)的保护。内部自适应黑盒红队测试显示,针对此前请求推理内容的提取成功率已从GPT-6 Astra的54.0%断崖式降至GPT-6.2 Astra的0.2%;针对当前请求推理内容的提取成功率也从22.9%降至0.9%。该测试汇总了6个攻击模型的数据,表明新版模型在防御历史与实时推理内容提取方面取得了显著效果。
关键数据
01系统级防护拆解
思考链提取成功率的大幅下降,源于OpenAI在模型层与API层构建的系统级防护组合拳。在模型层面,OpenAI通过对抗性训练让模型主动识别并拒绝提取请求,同时利用输入输出分类器检测潜在的攻击与泄露行为。
在API机制层面,防护策略进一步细化。GPT-6.2 Astra和Sol将受保护的推理内容与生成它的对话历史进行强关联。如果用户试图通过修改此前的消息来绕过防护,API会直接丢弃基于该消息生成的后续推理内容。此外,API严格限制了不同会话、模型和组织间的推理内容复用。为防止攻击者利用旧模型作为跳板,安全防护较弱的旧版模型被设定为无法读取GPT-6.2 Astra和Sol的受保护推理内容,实现了跨版本隔离。
02执法行动与能力迁移风险
除了技术防线,OpenAI在运营和执法层面也加大了反蒸馏力度。OpenAI表示,公司每周都会对涉及未经授权蒸馏活动的账号采取封禁等措施,规模从数千个到数万个不等,且今年夏季以来相关执法规模明显增加。同时,OpenAI还会调查协调进行大规模提取的账号网络,并与其他模型提供商分享攻击指标。
严格保护思考链的必要性在于其背后的高风险能力迁移价值。OpenAI内部测试发现,使用教师模型完整推理轨迹进行监督微调的学生模型,比仅使用最终回答、推理摘要和工具交互记录训练的模型,通常能获得更好的网络安全等高风险能力迁移效果。这使得完整思考链成为大模型厂商必须严格保护的核心推理资产。
