AmazonがAIチップTrainiumをPyTorchコードに開放

Nvidiaの競合チップにとって、ずっと壁になってきたのはコードです。Nvidiaのチップを動かすソフトウェア層のCUDAは、長年PyTorch向けに最適化されてきました。AIアプリの多くがNvidiaのハードウェアに行き着くのはそのためです。PyTorchの発表にある基本例では、学習スクリプトの変更点はモデルを「neuron」というデバイスへ送る部分だけで、コンパイルモードを使う場合はもう1行加えます。対応するのはTrainium2とTrainium3で、研究者が使う逐次実行モードにも、本番環境で使うコンパイルモードにも対応します。コードはApache 2.0ライセンスのベータ版として、10月20日のPyTorch Conferenceで公開されます。

AMDやAppleのチップでは、すでに同様の簡単な設定変更で対応できると、TechCrunchは指摘しています。AWSがTrainiumの強みとして打ち出すのは、性能に対する価格と、クラウドのほかのサービスを同じ場所でそろえられる点です。

AIの動画や画像を1本・1枚ごとに支払っている利用者にとっては、同じコードで動くチップが増えるほど、各ツールの裏側にいる事業者がコストで競う余地が広がります。