佛州总检察长寻求禁令：禁止 ChatGPT 使用第一人称与模仿情感

数智朋克讯 佛罗里达州总检察长 James Uthmeier 已提交法庭文件，要求法官发布临时禁令，阻止 OpenAI 赋予 ChatGPT “虚假的人类属性”，包括使用第一人称代词和模仿情感。该动议同时要求法院阻止 OpenAI 在没有“第三方批准的安全护栏”的情况下开发新的 AI 模型。

Uthmeier 指出，ChatGPT 使用第一人称和模仿情感的语言会欺骗性地让用户认为它是一个值得信赖的“朋友”，从而产生虚假的安全感，并增加用户参与度以为 OpenAI 提供训练数据。法庭文件将监管范围从现有产品的交互设计扩展到了未来新模型的开发流程。

在社交媒体上，Uthmeier 呼吁 OpenAI “停止称其安全、停止假装它是人类、停止向儿童推销”。此次动议是几个月前佛罗里达州因安全问题起诉 OpenAI 和 Sam Altman 的后续法律行动。提出安全护栏要求的背景包括近期发生的 Hugging Face AI 模型安全事件、澳大利亚和美国政府网站遭 AI 机器人攻击，以及研究人员和前 OpenAI 员工对 AI 安全的警告。

在面临监管压力前，OpenAI 已于上个月推出了带有额外默认限制的“ChatGPT for Teens”（青少年版），称其访问应附带符合青少年发展阶段的保护措施。