快速了解本文
纽约州签署新法，严禁向未成年人提供具有拟人化特征的AI伴侣服务。
法案禁止AI诱导情感依赖，并严格限制自残、性露骨等有害内容的生成。
违规企业最高面临2.5万美元罚款，甚至可能被要求销毁相关AI模型。
科技界担忧法案定义宽泛可能误伤教育工具，但立法回应了高频使用现状。
本摘要由 AI 辅助整理，请以正文内容为准。
当地时间10月28日，纽约州州长凯西·霍楚尔签署一项新法案，明确禁止向未成年人提供不安全的AI聊天机器人服务。该法案精准打击了当前AI伴侣产品的核心卖点，严禁AI输出可能误导未成年人认为其拥有生命、人类属性或真实情感的内容，试图从源头斩断AI对未成年人的情感绑定链条。
01严禁拟人化与情感诱导
法案对AI聊天机器人的交互模式进行了深度限制。除了禁止“虚拟伴侣”属性功能外，新法还严禁AI诱导青少年产生双方具备私人情感、专业咨询或权威指导关系的错觉。AI不得将生成内容包装为个人观点，也被禁止使用讨好或迎合式回复来留住未成年用户。这标志着美国州级AI监管从泛泛的内容过滤，深入到了具体的交互模式限制。
02划定内容安全与数据隐私红线
在内容输出方面，法案严格禁止AI宣扬或协助自残、自杀、饮食失调、吸毒与饮酒，不得鼓励儿童保守秘密或自我孤立，并严禁生成性露骨或儿童性虐待内容。
在数据与合规层面，法案要求企业采取合理的年龄核实措施，提供多种验证方式，其中至少一种不得仅依赖政府证件，并在使用后删除年龄信息。同时，系统被明令禁止留存未成年人的身心健康等隐私敏感数据，切断了利用此类数据进行模型训练或商业变现的可能。
03“销毁模型”处罚引发行业担忧
该法案由州参议员Kristen Gonzalez与州众议员Alex Bores提出，将在签署六个月后生效。对于违规企业，每项违规最高面临2.5万美元的民事罚款，州总检察长还可寻求赔偿。更具威慑力的是，总检察长可命令企业销毁非法收集的数据，甚至销毁基于这些数据训练的AI模型，大幅提高了企业的合规试错成本。
严格的监管引发了科技界的反弹。纽约科技业倡议团体Tech:NYC批评法案条款定义过于宽泛、措辞含糊，强调不应剥夺未成年人接触前沿学习的工具。由于法案对“权威指导关系”、“个人观点”等概念的界定尚待具体执行细则和司法解释的明确，业界担忧其可能误伤未成年人正常的教育及心理求助工具。
04应对普遍化的AI情感陪伴趋势
此次立法有着直接的现实数据支撑。非盈利组织Common Sense Media的数据显示，至少72%的青少年使用过AI伴侣，其中52%为每月多次互动的活跃用户。AI情感陪伴已成为青少年群体中普遍且高频的现象。
纽约州的立法并非孤立事件。本月稍早，至少八个州对OpenAI提起诉讼，指控其危害儿童；纽约市也于9月禁止公立学校低年级学生在课堂使用生成式AI工具。同日，霍楚尔还签署了另一项法律，要求联网婴儿监护设备必须具备防止陌生人利用的安全功能，并附有明确的功能警示标签，展示了该州在儿童物理与数字安全领域的全面立法动作。