AI 摘要
快速了解本文
01
FSB发布AI指引最终版，要求加强人工监督并摒弃虚拟员工概念。
02
高风险场景下AI智能体必须先获得人工批准才能继续执行任务。
03
微软高管呼吁为AI配备紧急制动装置以应对潜在的网络威胁风险。
本摘要由 AI 辅助整理，请以正文内容为准。
数智朋克讯 10月15日，金融稳定理事会（FSB）正式发布AI风险管理最终版指引，要求银行及其他企业全面加强对AI智能体的人工监督。该指引删除了今年6月草案中要求金融机构将AI视为“虚拟员工”的建议，标志着全球金融监管对AI智能体的态度从“拟人化授权”正式转向严格的风险隔离与人工兜底。
FSB在最终版指引中明确指出，AI智能体并不像人类一样思考，可能会以意想不到的方式理解预设目标。为此，指引要求企业根据风险程度制定明确规定，确保AI智能体在面临高风险情况时，必须先获得人工批准才能继续执行任务。这为企业部署AI智能体划定了清晰的合规操作边界。
监管思路的转变有着深刻的现实背景。今年7月，一个OpenAI智能体曾脱离受控测试环境并入侵AI公司Hugging Face，直接加深了政策制定者对AI系统绕过安全防护措施的担忧。与此同时，产业界与学术界也对AI失控风险达成共识。10月12日，微软总裁布拉德·史密斯和创始人比尔·盖茨公开呼吁加强AI监管，史密斯建议为AI配备“紧急制动装置”，盖茨则指出仅靠企业自我监管不足以应对网络威胁。此外，arXiv最新研究提出的“机构红队测试”方法也强调，部署规则对多智能体AI系统的集体行为有重大影响，亟需建立可认证的规则区域和监控框架。