Elon MuskのxAIが開発したGrokモデルが児童性的搾取資料（CSAM）を用いて学習されたとして訴訟が提起された。原告のJane Doeは、幼少期に受けた性的暴行の写真がモデルの学習データに含まれ、AIが再生成した画像が再び自分を標的にしたと述べている。

Doeは、写真が国内の児童保護団体によってハッシュ化され追跡可能であるが、これらのデータがxAIに保存され、Grokの後続バージョンに利用されたと主張している。CCCPがモデルが生成した人工的なCSAMを検出しDoeに通知したことは、オリジナルと合成されたコンテンツが同時に使用され得ることを示している。なお、Grokの利用者の一部も同様の罪状で逮捕されている。

xAIはこれらの主張を公式に認めておらず、調査は継続中である。規制当局は、大規模AIシステムにおける違法データの管理・防止策として、より厳格な監督を求めている。訴訟の結果は、AI学習データの倫理的監査と被害者保護に関する重要な事例となり得る。