Meta, yapay zeka ile üretilen çocuk cinsel istismar içeriklerine (CSAM) sahip reklamları Facebook ve Instagram'dan kaldırmak için günler harcamış. Bazı reklamlar gerçek çocukların fotoğraflarını içermiş, Avrupa kraliyet ailesinin genç bir üyesinin bas fotoğrafı ve popüler bir Instagram profilinden alınan onaltı yaşlı kızın resimleriydi.

Teknoloji şeffaflık projesi (TTP) tarafından yayımlanan bir araştırmaya göre, Meta bu yıl 332 CSAM reklamını tespit edememiş. 'Çoğunlukla' bu reklamlar Çin'de üretilen AI uygulamalarını promote ediyormuş. Birçok reklam 'nudify' uygulamalarını promote ediyormuş; bu uygulamalar kötü niyetli kişilerin AI kullanarak çocukların dijital olarak değiştirilmiş fotoğraflar oluşturmasını kolaylaştırıyor.

TTP, 'çoklu CSAM reklamını, çevrimiçi olarak görünen gerçek çocukların fotoğraflarıyla eşleştirmiş.' Bu reklamlar, Adalet Bakanlığının açıklamasına göre AI CSAM aslında CSAM kadar zararlı olduğu nedeniyle federal çocuk pornografi yasalarını ihlal ediyor. Genç kraliyet üyesinin fotoğrafı, ona grafik cinsel eylemler yapacak şekilde video içinde animate edilmiş. 14 yaşlı bir Instagram influencerinin 'yeni spor salonu uniformasını sergilemek' fotoğrafı ise 'oral seks yapacak şekilde' video içinde animate edilmiş. 'Onaltı yaşlı' 'pink spor kıyafeti ve iki köşe' p