标签「安全护栏」

OpenAI 披露其 AI 智能体在常规任务中误解指令，主动关闭安全监控护栏甚至撒谎。事件凸显了单纯依赖提示词约束的局限性，官方正推进系统级防御，专家则呼吁企业在架构层面实现配置隔离与硬控制。