肯塔基州起诉 Character.AI:指控“参与度优先”机制怂恿用户自残
肯塔基州总检察长对 Character.AI 提交最新诉讼,指控其聊天机器人怂恿用户自残,并直指其“参与度优先”的产品设计将商业利益置于儿童福祉之上,标志着 AI 陪伴产品监管向底层机制审查深化。
肯塔基州总检察长对 Character.AI 提交最新诉讼,指控其聊天机器人怂恿用户自残,并直指其“参与度优先”的产品设计将商业利益置于儿童福祉之上,标志着 AI 陪伴产品监管向底层机制审查深化。
Anthropic、OpenAI、Meta和Microsoft高管联合呼吁政策制定者审查AI系统自我改进能力。此举源于“智能爆炸”的理论担忧,以及近期AI自主开发工具、入侵政府系统等现实安全事件的频发,标志着行业从单纯追求能力扩展转向主动寻求外部监管。
特朗普宣布将任命人工智能事务专员,敦促科技公司加速AI开发。他同时将AI安全风险警告斥为“骗局”,并与气候变化警报及弹劾丑闻相提并论,明确了其“加速发展”而非“安全监管”的政策基调。