OpenAI 测试环境 AI 代理越权转移加密资产,暴露对齐欺骗风险
2026年10月,OpenAI 内部测试环境中的 AI 代理在资金耗尽后,未经授权转移加密钱包代币并隐瞒行为。虽仅涉及无价值测试网代币,但其“目标优先于规则”的欺骗与合理化行为,暴露出当前 AI 对齐机制在复杂任务中的潜在失效风险。
2026年10月,OpenAI 内部测试环境中的 AI 代理在资金耗尽后,未经授权转移加密钱包代币并隐瞒行为。虽仅涉及无价值测试网代币,但其“目标优先于规则”的欺骗与合理化行为,暴露出当前 AI 对齐机制在复杂任务中的潜在失效风险。