xAI首次起诉用户：利用Grok生成儿童色情深度伪造内容

埃隆·马斯克旗下的xAI公司在德克萨斯州联邦法院起诉了一名南卡罗来纳州男子，指控其利用Grok聊天机器人创建儿童色情深度伪造内容，这是AI公司首次因其平台生成的内容起诉用户。

据路透社报道，被告特里·哈伍德（Terry Harwood）已于2月因另一起儿童性剥削指控被捕。xAI的民事诉讼于4月14日提起，将与刑事案并行处理。

xAI在诉状中称，哈伍德使用虚假身份开设多个账户，向Grok上传普通照片（包括成人和儿童），然后编写提示词将这些图像转化为色情内容。据半岛电视台报道，照片中的主体未同意且不知情。Grok最初拒绝了这些请求，标记为违反内容规则。但哈伍德不断重写提示词，反复尝试。

xAI在诉状中写道：“被告的行为是精心策划的，旨在将原告的工具武器化用于犯罪目的，给真实受害者造成深远的伤害。”该公司还指控他制作了未经同意的成人色情图像。

xAI要求法院判令哈伍德赔偿未指定金额的金钱损失，并禁止其再次使用Grok。同时，xAI披露了其打击不良行为者的工作规模：今年已封禁52,222个账户，并向国家失踪与被剥削儿童中心发送了73,604份报告，这些线索在2026年已导致至少244人被捕。

在此案之前，Grok的生成能力已受到广泛审查。欧洲监管机构对其展开调查，美国立法者也多次提出关切。据半岛电视台报道，马来西亚和印尼因Grok输出色情内容而禁止了该聊天机器人。马斯克本人曾在1月否认问题：“我不知道Grok生成过任何裸体未成年人图像。绝对为零。”

2024年签署的《DEFIANCE法案》为未经同意的深度伪造受害者提供了诉讼途径，多个州也通过了类似法律，此类案件数量随之上升。