El instituto Fraunhofer IOSB de Alemania ha desarrollado un sistema llamado RealorRender para detectar imágenes falsificadas profundas. Este sistema aprovecha un enfoque híbrido que combina la clasificación de aprendizaje profundo con el cálculo del error de reconstrucción de imágenes. Los investigadores indican que la tasa de éxito del sistema varía entre el 85% y el 91%.
RealorRender utiliza un método de inteligencia artificial explicable (XAI) que explica sus decisiones. El sistema muestra las regiones sospechosas de la imagen mediante mapas de calor y segmentos, indicando qué características contribuyeron a la toma de decisiones. Esta explicación aumenta la transparencia del sistema y proporciona una herramienta para enfrentar motores de falsificación más potentes.
El sistema ofrece mayor seguridad contra falsificaciones personales, comerciales o políticas. Un ministro del Reino Unido destaca que tecnologías como esta juegan un papel importante en la protección de los niños contra el abuso y el chantaje sexual en línea.