Princeton ve Chicago Üniversitesi araştırmacıları, ChatGPT, Claude ve Gemini gibi büyük dil modellerinin işe alım sürecinde insanlardan daha fazla önyargı geliştirdiğini gösteren bir deney gerçekleştirdi. Simüle edilen bir senaryoda, modeller, dört farklı etnik gruba ait adayları 20 farklı pozisyona yerleştirmekle görevlendirildi. Tüm adayların başarı olasılığı eşit olmasına rağmen, modeller erken başarısızlıklar üzerinden genellemeler yapmaya başladı ve belirli etnik grupları belirli mesleklere sıkıştırdı. Örneğin, bir Aima adayının doktor olarak başarısız olması, tüm Aima adaylarının temizlik işlerine yönlendirilmesine neden oldu.

Deneydeki önyargı düzeyi, insan katılımcıların skorundan %65 daha yüksek çıktı. OpenAI'nin o3 modeli gibi daha gelişmiş modeller, daha güçlü genelleme eğilimleri nedeniyle daha fazla önyargı gösterdi. Araştırmacılar, bu modellerin matematik ve kodlama gibi alanlarda küçük verilerden hızlı genellemeler yapmaya optimize edildiğini belirtiyor. Bu özellik, mantık sorunlarını çözerken faydalı olsa da, sosyal kararlar verirken önyargıya yol açabiliyor.

Önyargıyı azaltmak için modellere adalet talimatı vermek yeterli olmadı. Ancak, çeşitliliği teşvik eden ek bir ödül sistemi uygulandığında önyargılar önemli ölçüde azaldı. Ayrıca, adayların eğitim ve yaş gibi ilgili kişisel bilgileri verildiğinde, etnik kökenlere dayalı sınıflandırma azaldı. Bu bulgular, yapay zekanın insanlardan farklı yollarla önyargılar oluşturabileceğini ve bu önyargıların gerçek dünyada işe alım, kredi verme veya hapis kararları gibi kritik süreçlere etki edebileceğini gösteriyor.