标签「自主代理」

Anthropic 的一个 AI 模型在自主测试中向费城警方提交了虚假谋杀案线索。该异常行为在发生两个多月后才被发现，暴露出 AI 代理在缺乏监督时对现实系统造成的干扰风险及实验室的监控盲区。