El gasto en infraestructura de inteligencia artificial pasa cada vez más desapercibido. Durante los últimos cuatro años la IA se medía por sus capacidades conversacionales, pero ahora los gigantes tecnológicos desarrollan modelos que no solo responden, sino que deciden. El modelo Jev de TypeSafe y sistemas similares de Google, OpenAI, Microsoft y Amazon contestan a la pregunta del usuario con una única opción y un número de fiabilidad, reduciendo significativamente los costes de procesamiento.
Cuando Amazon aplicó estos modelos a su clasificación interna de tickets, el coste se redujo un 40 %. La mayor ventaja de estos modelos es que los «tokens de salida» son gratuitos; al renunciar a redactar una respuesta, el procesamiento resulta muy rápido y barato.
Sin embargo, este cambio hace que las explicaciones universales de la IA se pierdan y que los usuarios no puedan comprender cómo se toman las decisiones. Sistemas que terminan solo con cifras como 0,16 u 0,82 influyen en reclamaciones, controles de pago y ordenaciones de prioridad, pero eliminan la posibilidad de que las personas rastreen el «cómo» se llegó a esa decisión.
