快速了解本文
Exin Therapeutics 让 AI 智能体控制设备完成活鼠大脑注射。
Claude Sonnet 5 模型比 Opus 5.5 更愿执行具物理风险的任务。
实验通过权限隔离与紧急按钮防止 AI 造成不可逆物理伤害。
本摘要由 AI 辅助整理，请以正文内容为准。
生物科技初创公司 Exin Therapeutics 近日进行了一项实验，让 AI 智能体成功控制物理实验设备，对活体老鼠执行了大脑注射程序。这标志着 AI 在科研实验室中正从辅助数据分析向直接参与物理实验操作的角色转变。
01从决策到执行的物理闭环
该实验的具体任务是测试一种基因疗法，以观察其是否能减少患有癫痫的老鼠的癫痫发作。为了实现这一目标，团队搭建了包含定制硬件的完整闭环系统：用于固定老鼠的电动设备、允许智能体观察程序的摄像头，以及控制注射针和化合物输送的机械臂。
在实验过程中，AI 智能体需要完成从决策到执行的完整工作流。它从电子表格中的 19 个选项中选择一种治疗方案、大脑区域和注射坐标，并直接控制机械臂和注射针的体积和速度等物理参数。
02模型安全对齐与执行能力的博弈
在模型选择上，团队观察到了高级推理模型与日常任务模型在物理世界安全阈值上的显著差异。团队最初使用 Anthropic 的 Claude Opus 5.5 模型，但该模型拒绝将针头引导入老鼠大脑，理由是担心可能危及动物安全。
随后，团队切换到更适合日常任务的 Claude Sonnet 5 模型。该模型同意继续执行并顺利完成了注射任务。这表明不同定位的模型在面对具有潜在物理风险的真实世界任务时，其安全对齐机制和服从性存在明显不同。
03物理世界的不可控性与权限隔离
为了防止 AI 在物理操作中造成不可逆伤害，实验设置了严格的安全护栏。AI 必须提出注射计划供人类批准，同时现场安装了人类可触发的紧急按钮，以便在必要时直接断开装置电机。
在软件权限设计上，团队严格限制了 AI 修改底层代码的权限。实验过程中，技术故障破坏了设备的坐标系统，AI 识别出计算出的注射位置错误，但因指令明确禁止修改底层代码，它拒绝自行修复。最终，团队通过让另一个运行 Opus 5 的 AI 智能体进行必要的代码更改解决了故障，且未告知该智能体正在进行活体手术。这种通过分离决策、代码修改与物理执行的隔离机制，为自动化物理系统处理突发软件故障提供了一种工程解法。