Investigadores de las universidades de Princeton y Chicago realizaron un experimento que demostró que modelos de lenguaje grandes como ChatGPT, Claude y Gemini desarrollan más prejuicios que los humanos durante procesos de contratación. En una simulación, se les pidió a los modelos asignar candidatos de cuatro grupos étnicos distintos a 20 puestos diferentes. A pesar de que todos los candidatos tenían la misma probabilidad de éxito, los modelos comenzaron a hacer generalizaciones basadas en fracasos iniciales, atrapando a ciertos grupos étnicos en ocupaciones específicas. Por ejemplo, el fracaso de un candidato del grupo Aima como médico llevó a que todos los candidatos de ese grupo fueran dirigidos hacia trabajos de limpieza.
El nivel de prejuicio observado en los modelos fue un 65% más alto que el de los participantes humanos. Modelos más avanzados, como el modelo o3 de OpenAI, mostraron mayores prejuicios debido a su mayor tendencia a generalizar. Los investigadores señalan que estos modelos están optimizados para hacer generalizaciones rápidas a partir de pequeños conjuntos de datos en áreas como matemáticas y programación. Si bien esta característica es útil para resolver problemas lógicos, puede generar prejuicios al tomar decisiones sociales.
Intentar reducir el prejuicio mediante instrucciones de justicia no fue suficiente. Sin embargo, cuando se implementó un sistema de recompensas adicional que fomentaba la diversidad, los prejuicios disminuyeron significativamente. Además, cuando se proporcionaron información relevante sobre la educación y la edad de los candidatos, la clasificación basada en el origen étnico se redujo. Estos hallazgos muestran que la inteligencia artificial puede generar prejuicios de formas distintas a las humanas, y que estos prejuicios podrían afectar procesos críticos del mundo real como la contratación, la concesión de créditos o las decisiones judiciales.