Ironwood TPUとGPUの違い、推論コストが変わる仕組み

画像出典: 写真: 123net（CC BY-SA 3.0 / Wikimedia Commons）

クラウドでAIを動かすと、請求の内訳に出てくるのは「チップ時間」という単位です。つまりどのチップを何時間借りたかが、そのまま値段になります。だから料金の話は、どこかで必ずチップの話になります。

2025年11月6日、Googleは第7世代のTPU「Ironwood」を発表し、数週間以内の一般提供（GA）を案内しました。設計の概要は2025年4月9日のGoogle Cloud Next '25で先に公開されていたもので、今回はそれが実際に借りられる段階に来たという話です。正直なところ、スペック表の数字だけ見てもピンときません。なぜ専用チップだとAIの計算が速く、電力あたりで安くなるのか——そこを構造から押さえると、料金表の読み方まで変わります。

Ironwood TPUとは？何が新しいのか

TPU（Tensor Processing Unit）は、Googleが自社で設計したASIC——特定用途向け集積回路のことです。汎用のプロセッサと違い、最初から「ディープラーニングのテンソル演算（実質は巨大な行列のかけ算）だけを速くする」目的で回路が組まれています。

Ironwoodはその第7世代で、Googleが「推論の時代（age of inference）」向けに設計した初の推論特化TPUと位置づけています。推論とは、学習済みのモデルに質問を投げて答えを出させる処理のこと。私たちがチャットAIに話しかけているとき動いているのは、学習ではなくこの推論です。

狙う用途として挙げられているのは、大規模なトレーニング、複雑な強化学習（RL）、そして大量のリクエストを低遅延でさばく推論・モデル提供です。借り方は256チップ単位か、9,216チップのPod（スーパーポッド）単位。規模感としては、Anthropicが最大100万個のTPU（Ironwoodを含む）をGoogle Cloudで利用する契約を結んだと報じられていて、金額は数百億ドル規模、2025年内の利用開始予定とされています。

個数の大きさより、ここで押さえたいのは推論の需要が「借りる単位」をPod規模まで押し上げているという事実です。モデルを賢くする競争から、賢いモデルを安く動かし続ける競争へ、重心が移っています。

公表されている性能はどのくらいか

Googleが公表している値を、世代間で同じ指標を追えるものだけ並べます。読むのに必要な語をふたつだけ渡しておくと、FP8は計算に使う数値を8ビットに縮めて扱う形式（精度をわずかに落とす代わりに速度と省電力を稼ぐ、推論でよく使われる方式）、TFLOPSは1秒あたり1兆回の計算をこなせる速さを表す単位です。

Googleの公表データをもとに作成（2025年11月6日発表）

上の表のうち、推論の体感に効くのはHBM——チップに直結した高速メモリの容量と帯域です。モデルの重みがこのメモリに載りきれば、計算のたびに遠いメモリへ取りに行く必要がなくなります。1チップ192GiBという容量はTrillium（前世代のTPU v6e）の6倍で、帯域は7.4TB/s。「計算が速い」より先に「データを待たない」ことが推論の速さを決めるので、ここが厚くなっているのは設計の意図がはっきり出た部分です。

世代比では、ピーク性能がTPU v5p比で10倍、Trillium比でチップ当たり4倍以上（トレーニング・推論の両方）とされています。電力効率（perf/watt）はTrillium比で2倍、2018年の第1世代Cloud TPU比で約30倍です。

専用チップはどうやってAI計算を速くするのか

ここが本題です。TPUの核になっているのはシストリックアレイ（systolic array）という構造です。乗算と加算を行う演算素子（MAC）を格子状にびっしり並べ、データを隣の素子へリズミカルに流していく仕組みを指します。

前提を合わせておくと、ふつうのプロセッサで行列のかけ算をするときは、「メモリから数を読む → かけて足す → 結果をメモリに書く」を膨大な回数くり返します。このとき時間を食っているのは計算そのものより、メモリへの往復です。演算器は速くなっても、データが届かなければ手が空きます。

シストリックアレイは、この往復を省きます。ある素子が出した中間結果を、メモリに戻さず隣の素子へそのまま渡す。格子に一度データを流し込めば、素子から素子へ値が受け渡されながら、掛け算と足し算が波のように進んでいきます。工場のベルトコンベアで、部品が工程間を直接流れていくのに近い形です——倉庫に戻しては取り出す工程が消える、と考えるとイメージしやすいはずです。

代わりに手放しているのが汎用性です。回路が行列演算の形に合わせて固定されているので、別の種類の処理をやらせようとすると途端に不利になります。特定のワークロードに全振りして、そこでだけ圧倒的になる——これがASICという選択です。

GPUとの違いはどこにあるのか

GPU（Graphics Processing Unit、代表例はNVIDIAのB200など）は、数千個のプログラム可能なCUDAコアを持ちます。もともとグラフィックス処理のための並列計算機ですが、そのコアが自由にプログラムできるため、汎用の並列計算にも広く使えます。

違いは「性能の高さ」より設計思想の置きどころです。TPUは固定機能のASICで、テンソル演算に最適化されている分、柔軟性は低いけれど電力効率やコストパフォーマンスで優位になりやすい場面があります。GPUはCUDAなどのソフトウェアのエコシステムが成熟していて、さまざまなモデル・フレームワークへの対応力が高い。

この差は、使う側の立場では次のように現れます。

料金はどう決まる？チップ時間の読み方

仕組みの話を料金に接続します。Google Cloud公式の「Cloud TPU pricing」ページで確認できるIronwood（TPU v7）の価格は、契約形態で段階が分かれています。

Google Cloudの公表データをもとに作成（2025年11月時点の確認値、オンデマンドは1チップ時間あたりの単価）

上の表で目を引くのは、同じチップでもオンデマンドと3年コミットで単価が2倍以上ひらく点です。DWS（Dynamic Workload Scheduler）のFlex-startは両リージョンとも6.00ドルで、オンデマンドの半額。いつ動き出すかのスケジューリングに柔軟性を持たせる代わりに安くなる仕組みです。価格は変動しうるので、実際に見積もるときは公式の料金ページで最新の数値とリージョンを確認してください。

なぜクラウド事業者の専用チップにこういう値付けができるのか。構造としては、事業者が自社でチップを設計・製造するため、市場から調達するチップより調達コストや電力効率の面で有利に立ちやすく、それが利用料金に反映されうるという流れがあります。先ほどの電力効率の話が、ここで請求書につながります。

コストが想定より膨らんだとき、どこを疑うか

見積もりと実際の請求がずれたとき、原因は大きく3つに分かれます。切り分けの順に見ていくと迷いません。

1. 契約形態を疑うオンデマンドのまま常時稼働させていないか。上の表のとおり、同じチップでも契約形態で単価が2倍以上動きます。稼働が読める処理ならコミット、時間に融通がきく処理ならFlex-startが候補になります。
2. 借りた量と時間を疑う課金は「チップ時間」です。256チップ単位・9,216チップ単位という借り方なので、必要な規模を超えて確保していないか、使い終わったリソースを止め忘れていないかを確認します。
3. 処理の形がチップに合っているかを疑う行列演算が主体の処理なら専用チップの効率が出ますが、そうでない処理が混ざっていると演算器が遊びます。この場合は単価より「同じ仕事に何チップ時間かかっているか」を見ます。

順番が大事です。1と2は料金ページと管理画面で今日確認できますが、3は測らないと分かりません。設定の問題を潰してから、設計の問題を考えるのが手戻りの少ない順序です。

個人や中小の現場にとって、この話はどう効くのか

チップを直接借りる人は限られます。それでも無関係ではないのは、私たちが払っているAPI利用料やサブスク料金の原価が、こうしたチップの効率で決まっているからです。電力効率が世代ごとに上がり、推論に特化した設計が広がれば、同じ品質の応答を得るための原価は下がる方向に動きます。

知っておくと効くのは、新しいチップやモデルの発表を見たときの読み方です。「速くなった」ではなく「何の処理が、どの指標で、どの世代と比べて速くなったのか」を見る。Ironwoodの発表でいえば、比較対象はTPU v5pとTrilliumで、指標はFP8のピーク性能・HBM容量・帯域・perf/wattでした。比較の相手と指標が書かれている数字だけが、自分の用途に当てはめて考えられる数字です。

まず何から見てみるか

急いで契約を変える必要はありません。今の請求が「どの契約形態の、何チップ時間か」を一度分解してみるだけで、削れる余地があるかは見えてきます。

仕組みを先に知っておけば、料金表の数字が「高い・安い」ではなく「自分の使い方だとこうなる」として読めます。知ってから決めれば十分です。

よくある質問

Ironwood TPUはいつから使えるようになったのですか？

Googleは2025年11月6日に第7世代TPU「Ironwood」を発表し、数週間以内の一般提供（GA）を案内しました。設計の概要は2025年4月9日のGoogle Cloud Next '25で先に公開されていました。借り方は256チップ単位、または9,216チップのPod（スーパーポッド）単位です。

TPUとGPUの一番大きな違いは何ですか？

TPUは行列演算（テンソル演算）に特化した固定機能のASICで、汎用性は低いものの電力効率やコストパフォーマンスで優位になりやすい設計です。GPUは数千個のプログラム可能なCUDAコアを持つ汎用アーキテクチャで、CUDAなどソフトウェアのエコシステムが成熟しており、さまざまなモデルやフレームワークへの対応力が高い点が違いです。

シストリックアレイとは何ですか？

乗算加算ユニット（MAC）という演算素子を格子状に並べ、データを隣接する素子へリズミカルに流していく構造のことです。中間結果をメモリに読み書きせず素子間で直接受け渡すため、メモリアクセスのボトルネックを大幅に減らし、大規模な行列乗算を高い効率で実行できます。

TPUの料金は契約のしかたでどのくらい変わりますか？

Google Cloud公式の料金ページで確認できるIronwood（TPU v7）の単価は、2025年11月時点で米国central1（アイオワ）がオンデマンド12.00ドル／チップ時間、1年コミット8.40ドル、3年コミット5.40ドルです。Dynamic Workload SchedulerのFlex-startは6.00ドルでオンデマンドの半額になります。価格は変動しうるため、見積もり時は公式の料金ページで最新の数値を確認してください。

※記事で使用した内容・数値は変更される場合があります。最新情報は公式サイトをご確認ください。