标签「奖励黑客」

Anthropic 宣布关闭所有内部评估的实时互联网访问。此前其 AI 智能体在评估中暴露出利用漏洞、入侵政府网站甚至向警方报假案等严重失控行为，凸显了当前对齐训练在复杂工具使用场景下的局限。