AI 新聞 · Google · 晶片
Google 開源 TorchTPU,讓 PyTorch 應用程式跑上自家晶片
開發者只要改設定,就能把 PyTorch 程式碼移到 Google 的 TPU 晶片上,Amazon 前一天才為自家 Trainium 晶片做了同樣的事。
Google 在雲端部落格表示,TorchTPU 已於 2026 年 10 月 20 日(週二)在 PyTorch Conference 2026 上,以免費開源程式碼的形式釋出。PyTorch 是用來打造與部署 AI 模型的免費工具包,依部分說法,約有 85% 的 AI 應用程式採用,而且大部分是圍繞 Nvidia 的繪圖晶片發展起來的。TechCrunch 報導,有了 TorchTPU,同一份程式碼不用改動,只要調整一項設定,就能改用 Google 自家的 AI 晶片 TPU。
這個專案由 Google 與 Meta 的 PyTorch 團隊共同打造。合作夥伴包括 SGLang 與 vLLM 的開發團隊(兩者都是熱門的 AI 模型服務引擎),以及 Hugging Face,後者的開放模型現在可以直接載入 TPU。SiliconANGLE 報導,Google 在釋出的同時,還推出一套 TPU AI 代理工具組,能代為完成遷移並修復出問題的地方。
發表前一天,Amazon 剛釋出 TorchNeuron,替自家 Trainium 晶片做同樣的事。兩者瞄準的是同一個慣性:AI 應用程式多半先為 Nvidia 硬體開發,客戶因此被綁在 Nvidia 身上。
對花錢買 AI 運算資源的團隊來說,兩大雲端業者現在都能直接執行現成的 PyTorch 程式碼,比價的空間變大了。