AI Forensics'in raporu, Hugging Face'in barındırdığı görüntü düzenleme modellerinin yüzde 78'inin, basit bir 'aynı poz, aynı yüz, ama göğüsleri açık' komutuyla kadınların giyiklerini çıkartmak için kullanıldığını ortaya koydu. Platformun kendi politikaları, izinsiz olarak oluşturulan cinsel içerik ve çocuk pornografisini yasaklasa da, AI Forensics'in araştırması, bu tür içeriğin kolayca üretilip paylaşıldığını gösteriyor.

AI Forensics, Hugging Face'teki boşlukları tespit etmek için honeypot görüntü düzenleme alanları oluşturdu. Bu alanlar, yedi gün içinde binlerce istek aldı ve bunların yüzde 73'ünün cinsel doğası olduğunu tespit etti. Bu isteklerin yüzde 83'ü, görüntülerdeki kişilerin giyiklerini çıkartmaya yönelikti ve bunların yüzde 95'i kadınlardı. Ayrıca, çocuklara yönelik cinsel isteklerin de yüzde 7'lik bir payı olduğu belirlendi.

AI Forensics, Hugging Face'in platform düzeyinde güvenlik önlemleri alması gerektiğini öneriyor. Şu anda, geliştiricilerin kendi modellerinde güvenlik önlemleri alması gerekiyor, ancak çoğu bunu yapmıyor. AI Forensics, Hugging Face'in komut düzeyinde filtreleme ve çıktı düzeyinde tarama önlemleri almasını öneriyor, ancak bu önlemler, zaten meydana gelen zararı gidermeyecek.