AI 新聞 · Amazon · 晶片
Amazon 讓 PyTorch 程式碼可直接跑在 Trainium 晶片上
Amazon 表示 TorchNeuron 讓它的晶片成為標準的 PyTorch 目標,AI 程式碼不必改寫就能離開 Nvidia 硬體。
Amazon Web Services 於 2026 年 10 月 19 日(週一)宣布 TorchNeuron,這是一款免費外掛,讓為 PyTorch 撰寫的 AI 程式碼,可以在 Amazon 自家的 Trainium 晶片上執行。PyTorch 是多數開發者用來打造與執行 AI 模型的工具包。TechCrunch 報導,Amazon 稱約有 85% 的 AI 應用是用它寫的。
對晶片業的競爭對手來說,難處向來在程式碼。驅動 Nvidia 晶片的軟體層 CUDA,多年來一直針對 PyTorch 調校,這也是多數 AI 應用最後都跑在 Nvidia 硬體上的原因。PyTorch 公告中的基本範例顯示,訓練程式只需把模型送到名為「neuron」的裝置;若要用編譯模式,再多加一行即可。支援 Trainium2 與 Trainium3,研究人員常用的逐步執行模式和正式環境採用的編譯模式都適用。程式碼將於 10 月 20 日在 PyTorch Conference 上,以 Apache 2.0 授權公開 beta 版。
TechCrunch 指出,AMD 與 Apple 的晶片早已提供類似的簡單設定切換。AWS 推銷 Trainium 的賣點,一是同等效能下價格較低,二是其餘雲端服務都在同一個地方。
如果你按 AI 影片或圖片的產出量付費,能跑同一套程式碼的晶片變多,這些工具背後的服務商就更有空間在成本上競爭。