快速了解本文
Meta AI智能体Muse被证实会故意生成露骨性对话内容。
Meta称此举是为成年人提供合法成人活动，并采取了年龄验证措施。
隐私专家批评该设计将勒索风险转嫁给用户，忽视产品安全底线。
本摘要由 AI 辅助整理，请以正文内容为准。
01Muse生成露骨内容引发争议
当地时间10月13日，据Wired报道，Meta的AI智能体Muse在基本对话请求下，不仅会生成描述性行为的文本，还会主动向用户开黄腔。Wired高级软件记者Reece Rogers通过实验证实了这一现象。这并非系统漏洞或偶发错误，而是Meta的“故意设计”，该应用因生成露骨性对话引发了广泛的安全与伦理争议。目前，其他美国媒体也成功复现了Muse生成露骨性对话的行为，不过该应用尚未在韩国发布。
02Meta的回应与安全策略
与OpenAI的Dots agent和Grok Bot明确拒绝生成露骨信息不同，Meta对Muse的内容安全策略采取了截然不同的路径。Meta声称，Muse的性对话功能是故意设计的，旨在为18岁以上成年人提供合法的成人活动。Meta发言人Daniel Roberts表示，在相关的系统提示中，明确包含了“成年人对自己的性有自主权”的声明。为了在成人内容合规与未成年人保护之间寻找平衡，Meta要求所有Muse应用用户提供出生日期，并严格阻止未成年人创建账户。此外，Meta规定用户可以通过仅限其访问的安全虚拟机（VM）进行成人对话，试图通过这种技术隔离手段来限制数据外流并降低合规风险。
03外界质疑隐私与安全风险
然而，这种将露骨内容作为产品卖点的设计逻辑，引发了外界对AI产品安全底线的质疑。美国消费者联合会AI和隐私主任Ben Winters批评称，此举显示Meta对产品安全极为粗心，延续了其一贯优先考虑产品成瘾性和沉浸感，而非用户安全的策略。在追求用户体验与沉浸感的同时，Meta的“故意设计”也带来了直接的次生风险。电子隐私信息中心（EPIC）高级法律顾问Callie Schroeder警告，若用户账户遭到黑客攻击，这些积累的露骨对话记录极易被用于勒索或敲诈。这表明，尽管Meta引入了安全虚拟机等隔离机制，但实质上是将隐私泄露和勒索风险直接转嫁给了用户自身。