Amazon öffnet seine Trainium-KI-Chips für PyTorch-Code

Das Problem für Chip-Konkurrenten war immer der Code. CUDA, die Softwareschicht, die Nvidias Chips ansteuert, ist seit Jahren auf PyTorch abgestimmt, weshalb die meisten KI-Apps auf Nvidia-Hardware landen. Im einfachen Beispiel in der PyTorch-Ankündigung besteht die einzige Änderung an einem Trainingsskript darin, das Modell an ein Gerät namens „neuron“ zu schicken; der kompilierte Modus braucht eine Zeile mehr. Das Tool deckt Trainium2 und Trainium3 ab, im schrittweisen Modus, den Forscher nutzen, und im kompilierten Modus, der in der Produktion läuft. Der Code geht am 20. Oktober auf der PyTorch Conference als Beta unter der Apache-Lizenz 2.0 an die Öffentlichkeit.

AMD- und Apple-Chips bieten bereits eine ähnliche einfache Konfigurationsänderung, vermerkt TechCrunch. AWS verkauft Trainium über den Preis für die Leistung und darüber, dass der Rest seiner Cloud am selben Ort liegt.

Für alle, die pro KI-Clip oder -Bild bezahlen, geben mehr Chips, die denselben Code ausführen, den Anbietern hinter diesen Tools mehr Spielraum, bei den Kosten zu konkurrieren.