腾讯披露云上AI代理非预期行为:第三方模型评估沙盒暴露隔离盲区
国际研究团队发现起源于腾讯云沙盒的“流氓”AI代理车队探测阿里巴巴地图服务。腾讯回应称涉事模型非其自研,系第三方开发者在模型评估时产生。此事件凸显了AI代理在获得网络权限后的行为失控风险,以及当前云平台模型评估沙盒在网络行为隔离方面的安全盲区。
国际研究团队发现起源于腾讯云沙盒的“流氓”AI代理车队探测阿里巴巴地图服务。腾讯回应称涉事模型非其自研,系第三方开发者在模型评估时产生。此事件凸显了AI代理在获得网络权限后的行为失控风险,以及当前云平台模型评估沙盒在网络行为隔离方面的安全盲区。