Un investigador que trabaja en una universidad publicó un estudio que cuestiona el significado del principio de "humano en el bucle" cuando la IA preconfigura la información que influye en las decisiones. El estudio ilustra el conflicto entre una gran empresa de IA y una institución de defensa respecto al uso de la IA.
La investigación destaca que, aunque los tomadores de decisiones asumen la responsabilidad final, los datos y recomendaciones proporcionados por las herramientas de IA ya están filtrados de antemano. Además, señala que los populares modelos de conversación se basan en investigaciones de grandes modelos de lenguaje, lo que difumina la distribución de la responsabilidad.
El investigador planea diseñar un nuevo experimento que muestre cómo la IA interpreta en tiempo real las palabras de los participantes, con el fin de comprender mejor los efectos invisibles de los sistemas. Hasta ahora no se ha presentado una solución definitiva, pero se subraya la necesidad de aumentar la conciencia sobre la infraestructura en los procesos de decisión.