Meta ha necesitado varios días para retirar de Facebook e Instagram anuncios que contenían material de abuso sexual infantil (CSAM) generado por inteligencia artificial. Algunos de esos anuncios incluían fotografías reales de menores, como una imagen de prensa de un joven miembro de una familia real europea y fotos de una chica de 16 años tomadas de un perfil popular de Instagram.
Según una investigación publicada por el Technology Transparency Project (TTP), Meta no detectó 332 anuncios de CSAM en lo que va de año. La "mayoría" de esos anuncios promocionaban aplicaciones de IA desarrolladas en China. Muchos de ellos publicitaban aplicaciones "nudify", que facilitan a actores malintencionados la creación de imágenes manipuladas digitalmente de menores mediante IA.
El TTP ha "vinculado múltiples anuncios de CSAM con fotos de menores reales que aparecen en línea". Esos anuncios violan las leyes federales de pornografía infantil porque, según una declaración del Departamento de Justicia, el CSAM generado por IA es tan dañino como el CSAM real. La foto del joven miembro de la realeza fue animada en vídeo para mostrarle realizando actos sexuales gráficos. La imagen de una influencer de 14 años que "mostraba su nuevo uniforme de gimnasio" fue animada en vídeo para simular sexo oral. Una "joven de 16 años" con "ropa deportiva rosa y dos coletas"