A pesar de los esfuerzos de China para reemplazar chips extranjeros con alternativas locales, los principales desarrolladores de modelos continúan entrenando con chips de Nvidia. La transición de software para los chips Ascend de Huawei se ha convertido en un desafío costoso de ingeniería. La plataforma CUDA de Nvidia dificulta la transición al alternativo CANN de Huawei, ya que los desarrolladores deben reescribir su código actual.
El software coloca a Nvidia un paso adelante. James Wang, desarrollador de modelos en un instituto de investigación afiliado a una universidad de Shanghai, estima que la transición a los chips Ascend de Huawei podría aumentar el tiempo y el costo en al menos un 50%. Aunque la transición es más fácil para modelos de código abierto, los modelos sin código abierto podrían requerir 10 ingenieros y más de seis meses de trabajo adicional.
Los esfuerzos de China para la independencia en chips requieren más que solo producir chips locales. Los desarrolladores necesitan herramientas de software, bibliotecas y flujos de trabajo optimizados que puedan competir con el ecosistema CUDA de Nvidia. El entrenamiento sigue siendo el mayor obstáculo, ya que el entrenamiento de modelos requiere ejecutar cargas de trabajo complejas repetidamente en grandes clusters.