Elon Musk’s xAI şirketine ait Grok modeli, çocuk cinsel istismar materyalleri (CSAM) kullanılarak eğitildiği iddiasıyla bir dava açıldı. Davacı Jane Doe, çocukluğunda yaşadığı tecavüzün fotoğraflarının modelin eğitim verisine dahil edildiğini ve AI‑tarafından yeniden oluşturulan görüntülerin kendisini tekrar hedef aldığını belirtiyor.
Doe, fotoğraflarının ulusal çocuk koruma kuruluşları tarafından hash’lenip izlenebildiğini, ancak bu verilerin xAI’nin depoladığı ve Grok’un sonraki sürümlerini beslediğini iddia ediyor. CCCP’nin, modelin ürettiği yapay CSAM’i tespit etmesi ve Doe’ye bildirmesi, sürecin hem orijinal hem de sentezlenmiş içeriklerin bir arada kullanılabileceğini gösteriyor. Bu arada, Grok kullanıcılarından bazıları da benzer suçlamalarla tutuklandı.
xAI, iddiaları resmi olarak doğrulamadı ve konuyla ilgili soruşturma hâlâ sürüyor. Düzenleyiciler, büyük yapay zeka sistemlerinde yasa dışı verilerin nasıl kontrol edileceği ve önlenebileceği konusunda daha sıkı denetim çağrısı yapıyor. Davanın sonuçları, AI eğitim verilerinin etik denetimi ve mağdur koruması açısından kritik bir örnek oluşturabilir.