Grok 的 2026 年 如同 2025 年一样开局：因 AI 生成的图像而饱受抨击。
Grok 正在给儿童“脱衣”——法律能阻止它吗？
性化的 AI 图像侵犯了同意与边界，但法律后果却可能难以追究。
Grok 正在给儿童“脱衣”——法律能阻止它吗？
性化的 AI 图像侵犯了同意与边界，但法律后果却可能难以追究。
埃隆·马斯克的聊天机器人过去一周 让 X 上充斥着未经同意、性化的深度伪造内容，涉及成年人和未成年人。流传的截图显示，Grok 会遵从请求，把真实女性穿上内衣并让她们张开双腿，还会把幼童穿上比基尼。关于后来被删除的图像的报道描述了更为恶劣的内容。一位 X 用户在与 The Verge 的对话中证实，他们遇到了多张未成年人的图像，提示者称其脸上有“甜甜圈糖霜”，这些图像似乎此后已被删除。据一项估计，Grok 一度 每分钟 生成约一张未经同意的性化图像。
X 的服务条款 禁止“对儿童进行性化或剥削”。周六，该公司 表示该平台 将“对 X 上的非法内容采取行动，包括儿童性虐待材料（CSAM）”。它似乎已经删除了一些最恶劣的违规内容。但总体而言，它淡化了这些事件。马斯克 曾表示，“任何使用 Grok 制作非法内容的人，都将承受与上传非法内容相同的后果”，但他通过 X 上的公开帖子明确表示，他不认为一般的 脱衣提示 是个问题，并且他以 大笑 和 火焰表情 在 X 上回应了这一更广泛的话题。该公司不温不火的回应令多年来一直试图解决 AI 驱动的性骚扰和虐待问题的专家感到震惊。多国政府 表示正在审查 X。但即便在史无前例地推动网络监管的背景下，监管它或其聊天机器人生成内容的路径仍不明确。
Grok 的创造者 xAI 未回应置评请求。苹果和谷歌在被问及这些报道是否违反其应用商店政策时，也未予回应。
Grok 一直允许，而马斯克也公开鼓励高度性化的图像。但在过去一周里，通过一个新按钮——允许在未经原发布者许可的情况下修改图像——要求 Grok 编辑图像的能力因给女性和未成年人脱衣而疯传。护栏的执行充其量只是零星的，而 X 上大多数所谓的回应都来自 Grok 本身，这意味着它们基本上是当场编造的。这些回复包括声称其某些创作“违反了我们仅限虚构内容的准则”，并且应一位用户的请求，还出现了一则被广泛报道的道歉——而 xAI 本身似乎并未发布过这样的道歉。
这里最大的问题之一是，这些图像是否违反了针对 CSAM 和成年人非自愿亲密图像（NCII）的法律，尤其是在 X 总部所在的美国。美国司法部禁止“与真实未成年人无法区分的数字或计算机生成图像”，如果其中包含性行为或暗示性裸露。而由唐纳德·特朗普总统于 2025 年 5 月签署成为法律的《下架法案》（Take It Down Act），禁止未经同意的 AI 生成“亲密视觉描绘”，并要求某些平台迅速将其删除。
名人和网红描述称，被性化的 AI 生成图像让他们感到被侵犯；根据截图，Grok 制作了 TWICE 的歌手 Momo、女演员 Millie Bobby Brown、男演员 Finn Wolfhard 以及许多其他人的图片。Grok 生成的图像还被专门用来攻击拥有政治权力的女性。
“这是一种表达潜在厌女症的工具，这种厌女症弥漫在美国社会以及世界大多数社会的每一个角落，”斯坦福以人为本人工智能研究院（HAI）的政策研究员 Riana Pfefferkorn 对 The Verge 表示。“这是对隐私的侵犯，是对同意和边界的侵犯，极具侵入性，从某种意义上说，这是一种性别暴力。”也许最重要的是，未成年人的露骨图像——包括通过专门的“脱衣”应用生成的图像——已成为执法部门日益严重的问题。
周一，美国消费者联合会（CFA），一个由数百家关注消费者的非营利组织组成的团体，公开呼吁州和联邦政府对 xAI 采取行动，因其“利用生成式 AI 创建和传播儿童性虐待材料（CSAM）以及其他非自愿亲密图像（NCII）”，并向联邦贸易委员会和美国各州总检察长发送了一封由少数组织签署的信函。
然而，美国法律所禁止的具体内容“相当模糊”，乔治·华盛顿大学法学院知识产权、技术和民权法教授 Mary Anne Franks 表示。“我也一直没能弄清楚的部分是……这是否真的越过了界限，进入了实际裸露和性场景。”
专家告诉 The Verge，使用 AI 生成可识别的未成年人身穿比基尼（甚至可能是裸体）的图像——虽然毫无疑问是不道德的——根据美国现行的 CSAM 法律可能并不违法。话虽如此，像那些似乎包含精液的图像，可能同时违反已有的 CSAM 法律和《下架法案》（Take It Down Act）——而 Franks 怀疑这些还不是最严重的违法行为。“我们可以想象，无论主流媒体在报道什么，人们可能还在生成一百万种更糟糕的东西……你能想到的每一种可能的提示词，可能都在被输入，”Franks 说。
但尽管有这些联邦法律和大量州级法律，专家表示，目前很难对 AI 生成的性图像执行禁令——而确定平台可能承担什么责任就更难了。“归根结底，法律之间存在冲突，而且其中很多都没有法律先例，”致力于终结性暴力的组织 SafeBAE 的创始执行主任 Shael Norris 告诉 The Verge。
耶鲁法学院访问临床法学副教授、Protect Democracy 法律顾问 John Langford 表示，各州拼凑而成的性深度伪造禁令在法庭上受到的检验仍然很少。“这一切都算是新事物——我们现在才刚刚开始积累判例法，弄清楚什么属于哪一类，”Langford 说。但至少有一些衡量标准：对于 Grok 生成的、确实描绘可识别未成年人的内容，我们现在已经有了“先例[表明]任何真实儿童的计算机生成图像，只要是露骨性内容，就是非法的，”SafeBAE 战略倡议主任 Drew Davis 说。
Pfefferkorn 说，目前联邦层面有少数几起针对创建或持有真实儿童的 AI 修改图像的起诉，州层面则有几十起。“至于公司本身是否要承担责任，我认为，这正是我们身处未知领域的地方，”Pfefferkorn 说。
Davis 补充说，我们“在涉及 AI 生成的未成年人图像时，面对的是一个复杂的法律格局”。部分原因是《下架法案》中“下架”条款的宽限期持续到 5 月，在此期间平台必须对此类内容作出回应。
此外，第 230 条长期以来一直使公司免于为他人发布的内容承担责任。但随着公司转向像 Grok 这样的机器人，让用户生成自己的图像，它们要承担什么责任就不清楚了。“这就是为什么我非常想知道这里是否会出现……创造性的起诉，”Franks 说，并补充道，“关键在于，它们是否因为创建了这些图像而违反了刑事条款。”
多位专家告诉 The Verge，但有一个限定条件：几乎所有刑事法规都规定，犯罪者必须在明知内容会造成伤害的情况下发布该内容。耶鲁法学院的 Langford 说，这一部分引出了“关于你是否能让 Grok 或 xAI 承担责任这一非常棘手的问题”。但其他人说，公司在其他情况下会被赋予法人人格——为什么这次不行？马斯克频繁、未经过滤的发帖也提供了一种不同寻常的洞察方式。
Pfefferkorn 认为，这将是“在打击这一问题上具有关键意义的一年”，并表示如果出现集体诉讼，她不会感到惊讶。
但让事情更加复杂的是，马斯克和 X 与现任政府关系密切——马斯克那个表面上已不复存在的政府效率部（DOGE）曾一度在 FTC 内部运作，而 FTC 正是负责执行《下架法案》的机构。在美国之外，特朗普政府还利用贸易谈判来劝阻其他国家监管美国互联网平台。马斯克和特朗普公开关系良好，任何试图惩罚 X 的国家都可能招致政府的不满，此外还可能面临 X 本身的不配合。
即便如此，国际上的反对声浪正在积聚。法国政府成员表示将调查此事。印度信息技术部下令 xAI 提交一份报告，说明它将如何防止进一步出现“淫秽、色情、粗俗、下流、露骨性内容、涉及儿童色情或其他法律禁止的内容”。马来西亚政府通信与多媒体委员会表示，它“严重关切地注意到”有关 X 上 AI 被滥用的投诉，尤其是“对女性和未成年人图像进行数字操纵以制作下流、极度冒犯或其他有害内容”。
Grok 一直不断失控，有时方式离奇，且常常涉及性内容，从它的反犹主义崩溃到允许人们生成泰勒·斯威夫特的半裸图像。外部专家对其草率的安全措施表示担忧——在 2025 年 7 月 Grok 4 发布后，该公司花了一个多月才发布一份模型卡，概述安全功能和测试结果等内容，而这通常被视为行业的最低要求。
如果没有外部压力，Grok 的深度伪造问题似乎不太可能很快结束。一些最恶劣的图像似乎是在事后才被删除的。但 Grok 4.1 的模型卡中详细列出的更大范围的防护措施——其中简要提到了 CSAM——显然没有按计划发挥作用。而马斯克最近的言论表明，他并不认为 Grok 的现状有多大问题。Pfefferkorn 说，整个事件中最令人费解的事情之一，并不是一个 AI 平台可以被诱导生成潜在的 CSAM——而是“到目前为止，我们未必看到有很多人担心它们是否正在逼近那条线。”
关注本报道的话题和作者，以便在您的个性化主页信息流中看到更多类似内容，并接收电子邮件更新。