Amazon abre sus chips de IA Trainium al código PyTorch

El obstáculo de los rivales en chips siempre ha sido el código. CUDA, la capa de software que maneja los chips de Nvidia, lleva años optimizada para PyTorch, y por eso el hardware de Nvidia es donde acaban la mayoría de las apps de IA. En el ejemplo básico del anuncio de PyTorch, el único cambio en un script de entrenamiento es enviar el modelo a un dispositivo llamado “neuron”. El modo compilado necesita una línea más. Cubre Trainium2 y Trainium3, tanto en el modo paso a paso que usan los investigadores como en el modo compilado que se usa en producción. El código se publica como beta con la licencia Apache 2.0 el 20 de octubre, en la PyTorch Conference.

Los chips de AMD y Apple ya ofrecen un cambio de configuración sencillo parecido, señala TechCrunch. AWS vende Trainium por su precio en relación con el rendimiento y por tener el resto de su nube en el mismo sitio.

Si pagas por clip o por imagen de IA, que haya más chips capaces de ejecutar el mismo código da más margen a los proveedores de esas herramientas para competir en costo.