科技巨头微软、谷歌、OpenAI联合非营利组织加强AI技术中的儿童安全措施

微软和谷歌日前联合Thorn和All Tech Is Human两大非营利组织，宣布一项重要的合作计划。计划旨在其生成式人工智能（AI）技术开发过程中实施更为严格的儿童安全措施。Thorn是一家专注于开发防止儿童性虐待技术的组织，而All Tech Is Human致力于推动一个更负责任的科技生态系统。

在此次合作中，包括Amazon、Anthropic、Civitai、Google、Meta、Metaphysical、Microsoft、Mistral AI和OpenAI在内的多家科技巨头表达了共同的承诺。这些公司将在生成式AI技术的研发和应用过程中，采取措施阻止生成和传播儿童性虐待材料（AIG-CSAM）以及其他可能对儿童构成伤害的内容。