ドイツのFraunhofer IOSB研究所は、ディープフェイク画像を検出するためのRealorRenderシステムを開発した。このシステムは、ディープラーニングによる分類と画像再構築エラーを計算するハイブリッドなアプローチを採用している。研究者たちは、このシステムの成功率が85％から91％の範囲であると指摘している。

RealorRenderは、決定を説明する人工知能（XAI）の方法を使用している。システムは、疑わしい領域を熱マップとセグメントとして表示し、どの特徴が決定に貢献したかを示す。この説明は、システムの透明性を高め、より強力なディープフェイクエンジンに対処するための手段を提供している。

このシステムは、個人、商業、政治的なディープフェイクの標的に対するセキュリティを強化している。イギリスの大臣は、このような技術が子供たちをオンラインでの虐待や性的脅迫から守る上で重要な役割を果たすと強調している。