Moonshot AI logró entrenar el modelo Kimi K3 utilizando chips Blackwell de Nvidia, a pesar de las restricciones impuestas por EE.UU. y China. Para obtener la potencia de cálculo necesaria para entrenar Kimi K3, Moonshot AI tuvo que utilizar chips Blackwell en los centros de datos de dos empresas chinas. Debido a la rareza de estos chips, la compañía combinó varios servidores de ocho chips Blackwell y utilizó la potencia de cálculo en diferentes centros de datos para llevar a cabo el proceso.
Kimi K3 marca el inicio de una nueva competencia en la industria de la inteligencia artificial en China. Aunque el desarrollo de chips locales es lento, el entrenamiento de Kimi K3 muestra que los chips locales están una o dos generaciones por detrás. Moonshot AI utiliza los chips HGX H20 de Nvidia, fabricados para el mercado chino, para ejecutar Kimi K3, requiriendo al menos 64 GPU H20. Debido a estos requisitos y a la popularidad de Kimi K3, Moonshot AI agotó la capacidad de cálculo necesaria para ejecutar el modelo y actualmente tiene una lista de espera para suscripciones.
El Departamento de Comercio de EE.UU. está investigando oficialmente si las empresas chinas tienen acceso a chips avanzados de EE.UU., como los GPU Blackwell de Nvidia. Esto significa que la lucha por la supremacía en los modelos de vanguardia seguirá siendo un punto de debate en curso.