グーグル、TPUでPyTorchを動かす「TorchTPU」をオープンソース化　メタと共同で開発

　グーグルは10月21日、AIの開発フレームワーク「PyTorch」で書いたプログラムを、同社のAI専用チップ「TPU」上でそのまま動かすためのソフトウェア「TorchTPU」をオープンソース化したと発表した。開発者向けイベント「PyTorch Conference 2026」に合わせた発表で、ソースコードはGitHubで公開している。

　TorchTPUは、PyTorchの開発に携わるメタのチームと共同で作った。既存のPyTorchのワークロードを、コードの変更を最小限に抑え、なじみのあるAPIのままTPUで実行できるという。まずイーガーモードで動作を確かめながらデバッグし、本番ではtorch.compileで性能を引き出す使い方を想定する。標準のPyTorch APIに加え、高度な診断機能や分散処理の基本機能も備える。メタのPyTorchエンジニアリング担当ディレクターは、大規模言語モデル（LLM）や広告、レコメンドのワークロードをTPUで動かせるようになると説明している。

　エコシステムとの連携も同時に打ち出した。ハギングフェイスのTransformers v5では、device_map引数にtpuを渡すだけでTPUに展開でき、画像生成向けのDiffusersもTPUで動く。推論では、オープンソースの推論エンジンvLLMを手がけるInferactと、SGLangを手がけるRadixArkと協力した。分散推論基盤のllm-dはバージョン1.0を公開し、レッドハットやIBMなどが参加している。

　学習の分野では、分散学習の参照実装TorchTitanが対応した。Llama 3 70B／405BやQwen 3 235B、画像生成モデルFLUX.1などのレシピを用意する。Qwen 3 8Bでは最大52％のMFU（モデルFLOPs利用率）を達成し、最大8,192基のIronwood（TPU v7x）でほぼ線形にスケールし安定して動いたとしている。分散処理フレームワークのRayもTPUに対応した。

　このほか、端末向けのAI推論ランタイムLiteRTがPyTorchエコシステムに加わった。TPUへの移行や性能調整を支援するTPUエージェントスイートも、早期プレビュー版として公開している。アマゾンも19日、自社AIチップ「Trainium」でPyTorchをほぼ書き換えずに動かす「TorchNeuron」を発表した。