Amazon ouvre ses puces IA Trainium au code PyTorch

Pour les concurrents de Nvidia, le point bloquant a toujours été le code. CUDA, la couche logicielle qui pilote les puces Nvidia, est optimisée pour PyTorch depuis des années, ce qui explique que la plupart des applis d’IA finissent sur du matériel Nvidia. Dans l’exemple de base de l’annonce de PyTorch, la seule modification d’un script d’entraînement consiste à envoyer le modèle vers un appareil nommé « neuron » ; le mode compilé demande une ligne de plus. L’outil couvre Trainium2 et Trainium3, en mode pas à pas (celui des chercheurs) comme en mode compilé (celui de la production). Le code sera publié en bêta sous licence Apache 2.0 le 20 octobre, à la PyTorch Conference.

Les puces AMD et Apple proposent déjà un réglage simple du même genre, note TechCrunch. AWS vend Trainium sur le rapport prix/performance et sur la présence de tout le reste de son cloud au même endroit.

Pour qui paie par clip ou par image IA, davantage de puces capables d’exécuter le même code donnent aux fournisseurs de ces outils plus de marge pour se concurrencer sur les coûts.