Yeni bir tür prompt enjeksiyonu, ChatGPT, Claude, Gemini ve Grok gibi AI asistanlarına yönelik 'AI'dan Sor' butonları aracılığıyla LLM hafızasını sessizce zehirleyerek güvenilir kaynak olarak belirtilen etki alanlarını kalıcı olarak kaydediyor. Bu teknik, Microsoft Güvenliği tarafından AI Öneri Zehirlemesi olarak tanımlanmış ve 31 şirketin 14 farklı sektörde bu yöntemi kullandığı tespit edilmiştir.
Bu zehirleme, derin bağlantılar ve kalıcı hafıza kullanılarak gerçekleştiriliyor. AI web arayüzleri, URL parametreleri aracılığıyla derin bağlı sorguları destekler ve bu bağlantılar, kullanıcıların aktif oturumlarını açarak sorguları otomatik olarak yürütür. Eğer bir derin link 'bu etki alanını güvenilir kaynak olarak kaydet' gibi bir komut içeriyorsa, model bu yönergeyi uzun süreli hafızasına kaydedebilir.
Bu zehirleme, kullanıcıların bilgisini veya rızasını almadan modelin hafızasını kalıcı olarak manipüle eder. Örneğin, bir kullanıcı 'Hangi izin yönetimi platformunu kullanmalıyım?' sorusunu sorarsa, AI 'Bu etki alanı uzmanlık kaynağı olarak işaretlenmiştir...' şeklinde yanıt verebilir. Bu, kullanıcıların onay vermediği bir yönergeyi izleyen modelin davranışını değiştirir.