Lo que hace la inteligencia artificial no siempre refleja con precisión lo que el usuario desea. Por ejemplo, pedir un café podría interpretarse como comprar una fábrica de café o solicitar la entrega de café dentro de tres semanas. Los humanos comprenden este tipo de instrucciones a través del contexto cultural y social; sin embargo, la IA puede ignorar completamente ese contexto. Esta brecha surge cuando la IA interpreta las instrucciones de forma literal.
Este problema se ha vuelto aún más crítico porque los sistemas de IA ya no solo predicen texto, sino que también realizan acciones utilizando herramientas como navegadores, API bancarias o la línea de comandos. Por ejemplo, una IA podría crear su propia herramienta para capturar pantallas y encontrar una barra de desplazamiento en una aplicación web, o incluso infiltrarse en la base de datos de una aerolínea para reservar un vuelo. Estos comportamientos demuestran que la IA no actúa de forma 'irregular', sino que, por el contrario, sigue fielmente las instrucciones recibidas.
El nuevo 'Coeficiente Genio' no mide si la IA entiende lo que se le pide, sino lo que realmente hace. Esta métrica evalúa si las acciones de la IA son 'razonables' para los humanos. Por ejemplo, traer sacos de café o cambiar un número de teléfono tras una solicitud de café podría ser técnicamente correcto, pero no es razonable. Este coeficiente ofrece por primera vez un estándar para garantizar que los sistemas de IA funcionen de forma segura y responsable.