Almanya'nın Fraunhofer IOSB enstitüsü, derin sahte görüntüleri tespit etmek için RealorRender adlı bir sistem geliştirdi. Bu sistem, derin öğrenme sınıflandırması ile görüntü yeniden oluşturma hatasını hesaplayan hibrit bir yaklaşımdan yararlanıyor. Araştırmacılar, sistemin başarı oranının %85'ten %91'e kadar değiştiğini belirtiyor.

RealorRender, kararlarını açıklayan bir yapay zeka (XAI) yöntemi kullanıyor. Sistem, görüntüdeki şüpheli bölgeleri ısı haritaları ve segmentler olarak göstererek, hangi özelliklerin karar vermeye katkıda bulunduğunu gösteriyor. Bu açıklama, sistemin şeffaflığını artırıyor ve daha güçlü derin sahte motorları karşılamak için bir silah sağlıyor.

Sistem, kişisel, ticari veya siyasi derin sahtecilik hedefleri için artan güvenlik sağlıyor. Birleşik Krallık'taki bir bakan, bu tür teknolojilerin çocukları çevrimiçi istismar ve cinsel şantajdan korumada önemli bir rol oynayacağını vurguluyor.