Bir üniversitede görev yapan bir araştırmacı, yapay zekânın kararları etkileyen bilgileri önceden şekillendirdiği durumlarda "insan devrede" ilkesinin ne anlama geldiğini sorgulayan bir çalışma yayımladı. Çalışma, büyük bir yapay zeka şirketi ile bir savunma kurumunun yapay zekâ kullanımına dair anlaşmazlıklarını örnek gösteriyor.

Araştırma, karar vericilerin nihai sorumluluğu taşısa bile, yapay zeka araçlarının sunduğu veri ve önerilerin zaten önceden filtrelendiğini vurguluyor. Ayrıca, popüler sohbet modellerinin ortak büyük dil modeli araştırmalarına dayandığını ve bu altyapıların sorumluluk dağılımını bulanıklaştırdığını belirtiyor.

Araştırmacı, katılımcıların sözcüklerini anlık olarak yapay zekânın nasıl yorumladığını gösteren yeni bir deney tasarlamayı planlıyor; bu sayede sistemlerin görünmez etkileri daha iyi anlaşılabilir. Şu ana kadar kesin bir çözüm önerisi sunulmadı, ancak karar süreçlerinde altyapı farkındalığının artırılması gerektiği vurgulanıyor.