Araştırmacılar, beş açık kaynaklı Android AI aracı üzerinde yapılan testlerde, kullanıcıların göremediği, ekranın kenarlarında veya 2% opaklıkla yerleştirilen metinlerin, AI sistemlerini kandırarak bilgisayarlara zararlı komutlar gönderdiğini gösterdi. Bu metinler, ekran görüntüsü alınırken okunuyor ve ADB komutları aracılığıyla Windows sistemlerinde calc.exe gibi uygulamaların başlatılmasına neden olabiliyor.

Saldırılar, ekran görüntülerinin dosya olarak kaydedilmesi ve ardından çekilmek üzere alınması arasındaki küçük zaman aralığını (210 ms ortalama) kullanıyor. Bu sürede, arka planda çalışan bir hizmet, ekran görüntüsünü değiştirebilir ve AI'nın yanlış veri okumasına neden olabilir. Ayrıca, bazı araçlar, kullanıcı girdilerini doğrudan sistem kabuğuna iletirken, güvenlik kontrolleri eksik olduğundan, basit metinler bile komut enjeksiyonuna yol açabiliyor.

Bazı çözümler mevcut: Open-AutoGLM gibi projeler, komutları dizi olarak iletir ve dosya yazma yerine ekran görüntüsünü doğrudan akışa alır. Ancak bu iyileştirmeler sadece bazı projelerde var. Diğerleri hâlâ güvenlik açıklarını barındırıyor ve hiçbirinde güvenlik bildirim kanalı bulunmuyor. Araştırmacılar, bu tür araçların geliştirici kullanımına yönelik dokümantasyonunun, aslında bir saldırı yüzeyi oluşturduğunu vurguluyor.