继父用 11 岁继女的照片生成数千张 CSAM 图像

2026-07-09 23:50 by 人猿泰山之地心营救

拟议中的集体诉讼披露了一起使用 xAI 的 Grok 生成数千张 CSAM（child sex abuse materials）图像的案件。
一名女孩的继父利用一张继女在 11 岁时拍摄的照片使用 Grok 生成了 7000 张 CSAM 图像。诉讼称 Grok 在整个过程中没有标记任何有害行为。Grok 的儿童安全系统只在这名男子输入“gang rape”后才介入，向 NCMEC 发送了举报，NCMEC 随后向执法部门报告了这起案件。法律规定 CSAM 被标记后需要共享 IP 等用户信息。但 xAI 被指控拒绝合作。最终警方通过搜查令扣押了继父的设备随后将其逮捕。继父还被指控网上出售这些 CSAM 材料，换取其他儿童性犯罪者的 CSAM 材料。该男子获准保释两天后便开枪自杀，而他的继女则饱受焦虑和抑郁的折磨，诉讼称她的生活在一夜之间被摧毁了，生活变成了一场噩梦。

https://arstechnica.com/tech-policy/2026/07/lawsuit-grok-user-made-7k-child-sex-images-xai-only-reported-one-gang-rape-prompt/

#犯罪