Satya Nadella, en una publicación en la plataforma X, subrayó la falta de fiabilidad de los modelos de IA y sostuvo que las organizaciones deben ejecutarlos bajo el principio de menor privilegio, con registro completo y dentro de sistemas que puedan detenerse al instante.
Nadella señaló que, a diferencia del software tradicional donde existe trazabilidad hasta el nivel de línea de código, los modelos actuales se comportan como 'cajas negras', por lo que la confianza debe depositarse no en el modelo sino en el sistema que lo envuelve.
El directivo de Microsoft esbozó un marco de siete puntos en el que ningún modelo puede autoauditarse, la auditoría independiente es obligatoria y la notificación de incidentes se vuelve imperativa.