快速了解本文
Google Computer Use 功能于 2026 年 10 月 30 日正式进入全面可用阶段。
模型仅负责提议 UI 操作,客户端需承担执行、坐标映射及安全隔离重任。
官方建议使用沙盒化虚拟机或容器隔离执行环境以保障主机安全。
本摘要由 AI 辅助整理,请以正文内容为准。
2026 年 10 月 30 日,Google 在 Interactions 和 GenerateContent API 中将 Computer Use 功能推向全面可用(GA)。这标志着该功能正式进入生产环境,但同时也明确了其实际工作原理:模型并不直接操作电脑,而是负责“提议”,客户端仍需承担“执行”与“安全隔离”的核心重任。
Computer Use 允许模型接收屏幕图像,并据此提议浏览器、移动端和桌面端的 UI 操作,如点击、滚动和按键。然而,模型输出的是函数调用建议,而非直接执行的指令。
这意味着开发者不能依赖模型直接完成操作。客户端应用必须负责解析模型的函数调用,在目标环境中执行操作,并捕获返回的新屏幕状态以形成闭环。在具体工程细节上,模型返回的坐标是归一化的,客户端代码需要将其映射到实际视口分辨率后才能执行点击。这种架构分工表明,开发者在接入时仍需投入大量工程资源处理坐标映射与环境执行,而非直接获得一个开箱即用的全自动操作代理。
在安全与意图解析方面,针对 Gemini 4 和 Gemini 3.x 模型,响应中可包含 intent 字段以解释动作意图,并提供允许、需确认或阻止的安全决策,为客户端实现安全拦截和人工确认机制提供了数据支持。
提示注入检测功能目前为可选配置,默认关闭。开启后,该功能会扫描截图以识别隐藏的对抗性指令。这表明在当前的 Computer Use 架构中,安全防线依然主要由应用层的工程实现来兜底。此外,为保障主机安全,Google 官方明确建议使用沙盒化的虚拟机或容器来隔离执行环境,以防范在宿主机上直接运行自动化操作的风险。
