Yapay zekâ altyapısında harcamaların gözden kaçırılması artıyor. Son dört yıldır AI'yi konuşma becerileriyle ölçerken, teknoloji devleri artık sadece cevap veren değil, karar alan modeller geliştiriyor. TypeSafe'in Jev modeli ve Google, OpenAI, Microsoft ve Amazon'ın benzeri sistemler, kullanıcının sorsadığı soruya tek bir seçenek ve güvenilirlik numarasıyla yanıt vererek işlem maliyetlerini önemli ölçüde düşürüyor.

Amazon'ın dahili bilet sınıflandırmasını bu modellerle yaptığında maliyet %40 azalmış. Bu modellerin en büyük avantajı, 'çıkış token''larının bedava olması; cevap yazmaktan muhakkak feragat ettiği için işlem çok hızlı ve ucuz gerçekleşiyor.

Ancak bu değişim, AI'ların evrensel açıklamalarını kaybetmesine ve kullanıcıların kararların nasıl alındığını anlamamasına yol açıyor. Sadece 0,16 veya 0,82 gibi sayılarla sonuçlanan sistemler, reclamlara, ödeme kontrollerine ve öncelik sıralamalarına etkili olsa da, insanların 'nasıl' karar alındığını izleme imkanını ortadan kaldırıyor.