コンピューティング

AI インフラストラクチャの効率: Ironwood TPU で炭素効率が 3.7 倍向上

Mon, 20 Apr 2026 01:00:00 +0000

※この投稿は米国時間 2026 年 4 月 7 日に、Google Cloud blog に投稿されたものの抄訳です。

Google は、AI インフラストラクチャが環境に与える影響について透明性を確保することに尽力しており、チップの製造からデータセンターでのチップの稼働まで、チップのライフサイクル全体における排出量の指標を公開しています。このたび、Google は第 7 世代 TPU である Ironwood の指標を更新します。Ironwood は、前世代のパフォーマンス最適化 TPU である TPU v5p と比較して、コンピューティング二酸化炭素排出原単位（CCI）が約 3.7 倍改善されています1。

つまり、AI が追加のコンピューティングリソースの需要を促進しているのは事実ですが、AI ハードウェアを最適化するための Google の継続的な取り組みは、AI ワークロードのエネルギー消費量と排出量の改善に役立っています。

AI アクセラレータの効率を測定: コンピューティング二酸化炭素排出原単位（CCI）

AI ワークロードの環境への影響を管理するために、Google は AI アクセラレータハードウェアのコンピューティング二酸化炭素排出原単位（CCI）をモニタリングしています。CCI は、An Introduction to Life-Cycle Emissions of Artificial Intelligence Hardware2 で、利用される浮動小数点演算ごとに排出される CO2 換算量（CO2e / FLOP）の推定値として定義されています。この指標は、製造、輸送、データセンターの建設に関連する体化排出量（スコープ 3）と、データセンターでのチップの運用に関連する運用排出量（スコープ 1 と 2）の両方を含めることで、チップレベルの全体像を提供します。

Ironwood のメリット: 高パフォーマンス、低フットプリント

Google の TPU CCI は、チップの世代ごとに改善され続けています。2026 年 1 月に測定された実証データによると、Ironwood は TPU v5p と比較して CCI が 3.7 倍も改善されています。これにより、TPU v4 と比較して TPU v5p の CCI が 1.2 倍向上し、Google のパフォーマンス最適化された TPU アーキテクチャの継続的な炭素効率の最適化が実証されています。

この効率性の向上は、マシンのエネルギー消費量と製造時の排出量の増加に比べて、TPU の世代間のコンピューティングパフォーマンスの向上が大きかったことによるものです。実際、TPU v5p から Ironwood までの全世代にわたるフリート全体の測定では、利用できる FLOP 数が 5 倍向上しています3。CCI の式（CO2e / FLOP）のパフォーマンス分母が排出量よりも速くスケールされるため、新しいチップごとに 1 オペレーションあたりの純炭素コストが大幅に低下します。

^{図 1: 2026 年 1 月のワークロードにおいて、Google のパフォーマンス最適化 TPU コホートで測定された Ironwood の CCI 改善の加速4}

Google の TPU フリートの運用効率がさらに向上

TPU CCI 指標が更新されたことで、2025 年に公開された測定値との直接比較も可能にしました。具体的には、2024 年 10 月から 2026 年 1 月にかけて、Google の汎用 TPU コホートは、以前の報告よりも効率的に動作しました。

TPU v5e では、15 か月間で CCI の合計が 43% 削減され、228 gCO2e / EFLOP になりました。これは、平均使用率が 72% 増加したことによるものです。
第 6 世代の TPU である Trillium では、同じ期間に CCI の合計が 20% 削減され、排出原単位は 125 gCO2e / EFLOP になりました。

^{図 2: Google の汎用 TPU コホートは、2024 年 10 月から 2026 年 1 月までの同じ TPU 世代におけるデプロイ効率の向上を示しています5。}

これらの結果は、Google が AI インフラストラクチャの炭素効率を継続的に改善していることを示しています。AI に対する大規模な需要により、大量の電力が必要とされ、その量は増え続けていますが、Google のイノベーションにより、消費電力の単位あたりで大幅に高いコンピューティングパフォーマンスを実現できるようになりました。

エネルギーと排出量をパフォーマンスから切り離す

これらの改善は、何に起因すると考えられるでしょうか。Ironwood のハードウェアの基本性能に加え、Google のインフラストラクチャ全体にわたるソフトウェアとシステムレベルの綿密な最適化によって、CCI の向上はさらに促進されています。

ソフトウェアの効率（MoE）: Mixture of Experts（MoE）などのスパースアーキテクチャが広く採用されることで、必要なパラメータにのみ計算がルーティングされます。これにより、モデルの容量や品質を犠牲にすることなく、推論やトレーニングのステップごとに必要なアクティブな FLOP を大幅に削減できます。
低精度演算（FP8）: 8 ビット浮動小数点（FP8）形式を多用することで、16 ビット形式と比較して、コンピューティングスループットを 2 倍に高め、メモリ帯域幅の要件を半分に削減しています。これは、数学演算あたりのエネルギーコストを指数関数的に削減しながら、出力品質を維持できることを示しています。
ワークロードのミックスとインテリジェントなスケジューリング: 高度なフリートオーケストレーションにより、インフラストラクチャ全体でワークロードのミックスが継続的にバランス調整されます。タスクをインテリジェントにスケジューリングすることで、継続的な使用率を高く保ち、デューティサイクルを最適化し、アイドル電力消費による二酸化炭素排出量を最小限に抑えます。

Google Cloud でサステナブルにスケーリング

AI の発展には、二酸化炭素排出量を同程度に急増させることなく、指数関数的にスケールできるインフラストラクチャが必要です。TPU v5p から Ironwood で炭素効率が 3.7 倍向上したことは、ハードウェアとソフトウェアの慎重な共同設計を通じて、エネルギーと環境フットプリントの増加を最小限に抑えながら、より高いコンピューティング密度を実現できることを示しています。Ironwood の詳細と利用方法については、こちらのフォームからご登録ください。

^{1. 2025 年 8 月の技術レポートで公開された手法に従い、2026 年 1 月時点の Google の各世代の TPU を対象として、TPU ハードウェアのライフサイクル全体の排出量を特定時点のスナップショットとして定量化しました。この調査の機能単位は、データセンターにデプロイされた 1 台の AI コンピュータです。これには、1 つのホストトレイ（つまり、コンピューティングサーバー）に接続された 1 つ以上のアクセラレータトレイ（TPU を含む）が含まれます。トレイ以外の周辺コンポーネント（ラック、棚、ネットワーク機器など）と補助的なコンピューティングリソースおよびストレージリソースは、体化排出量と運用排出量の計算から除外されます。データセンターの冷却に使用される電力は、運用排出量に含まれます。ワークロード実行の電力消費に伴う運用上の排出量を推定するために、TPU フリート全体のマシン電力データを観測して 1 か月分のサンプルを用意し、Google の 2024 年のフリート全体の二酸化炭素排出原単位の平均を適用しました。製造、輸送、廃棄に由来する体化排出量を推定するために、ハードウェアのライフサイクル評価を実施しました。データセンターの建設に伴う排出量は、Google が開示した 2024 年の温室効果ガス排出量に基づき推定されました。これらの調査結果は、モデルレベルの排出量を表しているわけではありません。また、AI に関連する Google の排出を完全に定量化したものでもありません。TPU のロケーションに応じて、特定のワークロードに対応する CCI の結果が変わる可能性があります。2. この論文の共同執筆者の Ian Schneider、Hui Xu、Stephan Benecke、Parthasarathy Ranganathan、Cooper Elsworth に対して、これらの結果を可能にするために多大な協力をしてくれたことに、著者一同から感謝を申し上げたいと思います。3. この比較では、2026 年 1 月に Google のフリートにデプロイされた TPU v5p チップと Ironwood チップの間で利用される FLOPS（BF16）を考慮しています。この傾向は、v5p（459 FLOPS）と Ironwood（2,307 FLOPS）の間のピーク FLOPS（BF16）の改善と一致しています。4. GHG プロトコルは、運用排出量について 2 つの会計基準を提供しています。ここで示す結果は、カーボンフリーエネルギーの購入による影響を含む、市場ベースの排出量を考慮したものです。カーボンフリーエネルギーの購入を除外するロケーションベースの会計では、運用 CCI はそれぞれ 793、712、195 gCO2e/EFLOP に上昇します。CCI の改善の割合は同程度で、Ironwood の体化 CCI は合計 CCI の 23% から 8% に減少します。5. さまざまな TPU 使用率で公平に比較できるように、この分析では 2025 年 8 月の技術レポートの傾向スコア加重手法を再現し、2026 年 1 月の結果を 2025 年に公開された結果と比較しています。この統計手法では、デューティサイクルの変動を調整して、特定の期間における TPU の比較のバランスを取ります。この経験的な手法により、計算された CCI の時間的期間間の変動が小さくなり、グローバルインフラストラクチャ全体での実際のエネルギー消費量とハードウェア使用率の変動が反映されます。}

- Google シニアデータサイエンティスト、Keguo（Tim）Huang

- Google 上級エンジニア、David Patterson

Ironwood TPU を使用したトレーニングに関するデベロッパーガイド

Mon, 30 Mar 2026 02:10:00 +0000

※この投稿は米国時間 2026 年 3 月 24 日に、Google Cloud blog に投稿されたものの抄訳です。

数兆単位のパラメータを扱う AI モデルへの移行により、演算リソースの需要が急激に高まり、従来のインフラストラクチャの限界が試されています。第 7 世代の Ironwood TPU は、Google がカスタム設計した AI インフラストラクチャです。チップ間相互接続（ICI）、光回路スイッチ（OCS）、データセンターネットワーク（DCN）、および大規模な集約型高帯域幅メモリ（HBM）容量を組み合わせることで、最大 9,216 個のチップを格納できる Pod に対応する包括的なシステムとしてスケールできるように設計されています。さらに、Ironwood はハードウェアアーキテクチャとソフトウェアの統合された共同設計を特徴としており、コンパイラ中心の XLA、および Pallas や Mosaic などの Python ネイティブカーネルといったイノベーションが導入されています。組織はこれらの機能を組み合わせることで、高度なフロンティアモデルをトレーニングおよび提供する能力を大幅に高め、AI ライフサイクル全体を最適化し、高いパフォーマンスを維持できます。

この技術概要では、Ironwood ハードウェア上でのトレーニング効率の向上と、卓越したパフォーマンスの実現を目指して設計された、JAX および MaxText エコシステムにおける具体的な手法とツールについて説明します。

Ironwood の主な最適化戦略

1. MaxText によるネイティブ FP8 の活用

Ironwood は、行列乗算ユニット（MXU）で 8 ビット浮動小数点（FP8）をネイティブにサポートする最初の TPU 世代です。重み、アクティベーション、勾配に FP8 精度を利用することで、ユーザーは理論上、スループットを Brain Floating Point 16（BF16）の 2 倍に高められます。FP8 レシピを正しく構成すると、モデルの品質を損なうことなく効率を向上させることができます。

これらの FP8 トレーニングレシピを実装するには、Qwix ライブラリから始めます。この機能は、MaxText 構成内で関連するフラグを指定すると有効になります。,

詳しくは、Google デベロッパーフォーラムのブログ投稿 Ironwood での FP8 トレーニングの最適化についてをご覧ください。

2. Tokamax カーネルによる加速

Tokamax は、TPU 向けに最適化された高パフォーマンスの JAX カーネルのライブラリです。これらのカーネルは、次のメカニズムを通じて特定のボトルネックを軽減するように設計されています。

Splash Attention: このメカニズムは、標準的なアテンションプロセスに内在する I/O の制限に対処します。オンチップ SRAM 内で計算を維持することで、メモリ帯域幅が制約になることが多い長いコンテキストの処理に特に効果を発揮します。
Megablox グループ化行列乗算（GMM）: これは、混合エキスパート（MoE）モデルでよく見られる「不規則な」なテンソルを管理します。GMM を利用すると、システムは非効率的なパディングを回避し、MXU の使用率を高められます。
カーネルチューニング: Tokamax ライブラリには、ハイパーパラメータを最適化するためのユーティリティが含まれています。これらのツールを使用すると、Ironwood TPU の特定のメモリ階層に合わせて、タイルサイズやその他の構成を調整できます。

3. SparseCore への集団のオフロード

Ironwood の第 4 世代 SparseCore は、不規則なメモリアクセスパターンを管理するために特別に設計されたプロセッサです。ユーザーは、特定の XLA フラグを使用して、All-Gather や Reduce-Scatter などの集団通信演算を SparseCore に直接オフロードできます。

このオフロードメカニズムにより、TensorCore を主要なモデル計算に専念させながら、通信タスクを並行して実行できます。このような機能の重複は、通信のレイテンシを隠し、MXU へのデータスループットを一定に保つための重要な戦略です。

4. VMEM 上でのメモリパイプラインのファインチューニング

TPU メモリアーキテクチャの重要な部分である VMEM は、カーネルのパフォーマンスを最適化するように設計された高速なオンチップ SRAM です。現在の演算と将来の重みのプリフェッチの間で VMEM の割り当てを調整することで、実行速度を全体的に向上させることができます。たとえば、現在のスコープ用に予約されている VMEM を増やすと、カーネルで使用されるタイルサイズを大きくすることができます。これにより、潜在的なメモリストールが解消され、カーネルのパフォーマンスが向上します。

TPU メモリアーキテクチャの詳細については、TPU パイプラインをご覧ください。

5. 最適なシャーディング戦略の選択

最後に、MaxText は、すべての TPU で利用できるさまざまな並列処理手法をサポートしています。最適な選択は、モデルサイズ、アーキテクチャ（Dense や MoE）、シーケンス長によって異なります。適切なシャーディング戦略を選択すると、モデルのパフォーマンスを高められます。

完全にシャーディングされたデータ並列処理（FSDP）: これは、単一チップのメモリ容量を超える大規模モデルをトレーニングする場合に推奨される戦略です。FSDP は、モデルの重み、勾配、オプティマイザの状態を複数のチップにシャーディングします。デバイスごとのバッチサイズを増やし、より多くの演算を導入することで、All-Gather 演算のレイテンシを隠し、効率を向上させることができます。
テンソル並列処理（TP）: 個々のテンソルをシャーディングします。Ironwood は演算密度が高いため、モデルの次元が極めて大きい場合に TP が最大の効果を発揮します。TP を 2 分割して活用すると、Ironwood のデュアルチップレット設計における高速なダイ間相互接続を利用できます。
エキスパート並列処理（EP）: MoE モデルでエキスパートをデバイス間で分散するのに役立ちます。
コンテキスト並列処理（CP）: 非常に長いシーケンスに必要で、シーケンスの次元に沿ってアクティベーションをシャーディングします。
ハイブリッドアプローチ: 大規模な実行で演算、メモリ、通信のバランスを取るには、戦略の組み合わせが必要になる場合が多いです。

上述の 2～5 の手法について詳しくは、デベロッパーフォーラムの投稿 Optimizing Frontier Model Training on TPU v7x Ironwood（TPU v7x Ironwood でのフロンティアモデルトレーニングの最適化）をご覧ください。

Ironwood のメリット: システムレベルのパフォーマンス

これらの最適化手法と、高速の 3D トーラスチップ間相互接続（ICI）や大容量 HBM などの Ironwood のアーキテクチャ上の強みを組み合わせることで、フロンティアモデルのトレーニング向け高性能プラットフォームが実現します。ハードウェア、コンパイラ（XLA）、フレームワーク（JAX、MaxText）間の緊密な共同設計により、AI インフラストラクチャから最大限のパフォーマンスを引き出すことができます。

AI の取り組みを加速させる準備は整いましたか？以下のリソースで、各最適化手法について詳しく確認できます。

関連情報

このブログ投稿に協力してくれた Hina Jajoo と Amanda Liang に感謝します。

- プロダクト戦略およびオペレーション担当、Lillian Yu

- Google TPU 担当プロダクトマネージャー、Liat Berry

Google Cloud と NVIDIA が GTC 2026 で業界全体に AI イノベーションを拡大

Tue, 24 Mar 2026 03:00:00 +0000

※この投稿は米国時間 2026 年 3 月 17 日に、Google Cloud blog に投稿されたものの抄訳です。

エージェント型 AI の時代により、企業インフラストラクチャのニーズは根本的に変化しています。組織が動的な推論と自律的な実行が可能なシステムを構築するにつれて、基盤となるインフラストラクチャも進化する必要があります。これらのエージェントワークロードを大規模な混合エキスパート（MoE）アーキテクチャとともにスケールするには、細部まで最適化された共同設計のスタックが必要です。

こうした需要に応えるため、Google は AI に最適化された Infrastructure as a Service である Google Cloud AI Hypercomputer を構築しました。これは、パフォーマンスが最適化されたハードウェア、最先端のソフトウェア、オープンフレームワーク、柔軟な使用量モデルを包括的な単一システムに統合したものであり、超低レイテンシ、高スループット、費用対効果の高い推論を実現します。この統合アーキテクチャ内でお客様にさらに多くのオプションを提供するために、Google は NVIDIA とのパートナーシップを拡大しています。

今週開催される NVIDIA GTC 2026 で、Google Cloud と NVIDIA はパートナーシップを拡大し、共同設計した AI インフラストラクチャ基盤を紹介する一連の新しい発表を行います。

インフラストラクチャとハードウェア

NVIDIA RTX Pro™ 6000 Blackwell Server Edition を搭載した Google Cloud G4 VM の勢い
NVIDIA vGPU テクノロジーを使用した、柔軟な分割式 G4 VM のプレビュー版 - NVIDIA RTX Pro™ 6000 Blackwell Server Edition では業界初
NVIDIA Vera Rubin NVL72 プラットフォームのサポート予定

ソフトウェアとプラットフォーム

NVIDIA Dynamo と GKE Inference Gateway のインテグレーション
Vertex AI Training と Model Garden 全体で NVIDIA のサポートを強化

エコシステム

公共部門向け AI スタートアップアクセラレータプログラムの開始

発表内容を詳しく見ていきましょう。

G4 VM で AI ワークロードを高速化

NVIDIA RTX Pro 6000 Blackwell Server エディション GPU を搭載した G4 VM は、高度な空間コンピューティングから完全な AI 開発ライフサイクルまで、さまざまな高パフォーマンスワークロードを強化するために構築されています。たとえば、Otto Group One.O や WPP などの企業は、G4 を使用して物理的に正確なシミュレーションやリアルタイムの 3D レンダリングを大規模に実行しています。

シミュレーション以外にも、G4 はモデルのファインチューニングと推論で優れた性能を発揮し、特に 300 億から 1,000 億以上のパラメータを持つモデルに適しています。4 ビット浮動小数点（FP4）精度と Google のピアツーピア（P2P）通信を活用することで、お客様はモデル提供のスループットの向上とレイテンシの大幅な削減を実現し、リアルタイムのマルチモーダル AI エージェントや応答性の高い生成 AI アプリケーションという新しいクラスを可能にしています。

お客様がすでに G4 VM のパフォーマンスと効率性を活用して、最も要求の厳しいワークロードを高速化させている例をいくつかご紹介します。

「Google Cloud の G4 VM は、膨大な量のフォトリアルなシミュレーションをパイプラインで処理するために必要とされる、スケーラブルな GPU バックボーンを提供してくれます。スループットが 4 倍に向上したことで、ML チームはより迅速にイテレーションを行い、より豊富なデータでトレーニングし、モデルが実環境に導入されるよりかなり前にエッジケースを検証できるようになりました。」– General Motors、AI / ML エンジニアリング担当ディレクター、Sony Mohapatra 氏

「NVIDIA Blackwell を搭載した G4 VM を使用することで、マルチモーダルモデルをさらに進化させられるようになりました。推論の高速化、信頼性の向上、言語を問わない即時応答などです。目標は変わりません。企業規模で機能する音声エージェントを、妥協せずに作成することです。今後も共同で開発を続け、お客様がこのツールをどのように活用されるかを楽しみにしています。」– ElevenLabs、共同創業者、Mati Staniszewski 氏

「Google Cloud G4 VM は、当社のロボット連携レイヤの計算バックボーンを提供し、物流センター全体で自律型フリートをミリ秒単位の精度で同期できるようにします。忠実度の高いデジタルツインで複雑な倉庫環境をシミュレートすることで、サプライチェーン全体を仮想的に最適化してから、ロボットに床を移動させることができます。」 - Otto Group One.O、CEO、Stefan Borsutzky 博士

「G4 VM に移行したところ、Terraform スクリプトを更新するだけで、処理レイテンシが 50% 削減され、スループットが 6 倍に向上しました。運用オーバーヘッドを追加することなく、コアワークロードのパフォーマンスをこれほど向上させることはめったにありません。」– Imgix、エンジニアリング責任者、Alfonso Acosta 氏

分割式 G4 VM の導入

このたび、AI およびグラフィックワークロード向けの非常に効率的で費用対効果の高いエントリーポイントとなる、分割式 G4 VM のプレビュー版がリリースされました。NVIDIA 仮想 GPU（vGPU）テクノロジーを使用したこれらの新しい構成により、NVIDIA RTX PRO 6000 Blackwell Server エディション GPU のパワーを柔軟かつ小規模な単位で活用できるため、アプリケーションの特定の需要に合わせてインフラストラクチャを適切なサイズに調整できます。

「企業は、複雑なエージェント型 AI ワークロードをスケールするために、前例のないほどの柔軟性を必要としています。NVIDIA は Google Cloud とともに、NVIDIA RTX PRO 6000 を搭載した分割式 G4 VM を導入し、お客様が GPU 容量のサイズを適正化して ROI を最大化できるようにしました。Vertex AI 上の NVIDIA NeMo から GKE の NVIDIA Dynamo まで、共同設計されたスタックにより、次世代の推論モデルと MoE モデル向けのオープンで高性能なプラットフォームを提供します。」- NVIDIA、ハイパースケール / HPC 担当バイスプレジデント兼ゼネラルマネージャー、Ian Buck 氏

高度なハードウェアへのアクセスをより細かく制御できるため、分割式 G4 VM はパフォーマンスを犠牲にすることなく、リソース割り当てを最適化してオーバーヘッドを削減できます。特定のニーズに合わせて、追加の GPU スライスサイズから選択できるようになりました。

1/2 GPU: LLM 推論、ロボットセンサーシミュレーション、高忠実度 3D レンダリングなど、より負荷の高いタスクに最適です。
1/4 GPU: 中程度のクリエイティブデザイン、動画のコード変換、リアルタイムのデータ可視化など、主流のワークロード向けに最適化されています。
1/8 GPU: リモートデスクトップ、生産性向上ツール、エントリーレベルのストリーミングサービスなどの軽量アプリケーションに最適です。

これらの柔軟な G4 サイズポートフォリオにより、次のことが可能です。

インフラストラクチャの適切なサイジング: 軽量なリモートデスクトップから集中的なデータ処理まで、GPU 容量をアプリケーションの需要に正確に一致させます。
費用効率を最大化: 特定のタスクに必要な分割 GPU リソースのみを利用して料金を支払うことで、運用オーバーヘッドを削減します。
多様なワークロードをスケール: 高忠実度のクリエイティブデザインやストリーミングから、複雑なロボットシミュレーションやリアルタイム推論まで、幅広いイノベーションを推進します。

これらの部分的な G4 VM は Google Kubernetes Engine（GKE）で管理できるため、開発者は高度なコンテナビンパッキングを使用して、さらに高い費用対効果とリソース使用率を実現できます。Dynamic Workload Scheduler を使用して管理する場合、分割スライスにフォールバックの優先順位を設定できます。これにより、スケジューラが各ワークロードで利用可能な GPU 構成を自動的に検出できるようになるため、取得可能性が大幅に向上します。

「G4 vGPU の柔軟なサイズ設定により、各分子シミュレーションの規模に合わせてコンピューティングリソースを正確に調整できるため、創薬パイプライン全体で最大限の効率を確保できます。このきめ細かい制御により、研究者は固定されたハードウェア構成に制約されることなく、小規模なワークフローと大規模な並列処理の間をシームレスに切り替えられます。」– Schrödinger、EVP、CIO、Shane Brauner 氏

NVIDIA Vera Rubin NVL72 で AI Hypercomputer をスケーリング

NVIDIA との緊密なエンジニアリングパートナーシップを基盤として、Google は NVIDIA Blackwell アーキテクチャの後継である、先日発表された NVIDIA Vera Rubin プラットフォームをサポートできることを誇りに思います。Google は 2026 年下半期に NVIDIA Vera Rubin NVL72 ラック規模システムをいち早く提供するクラウドプロバイダとなる予定です。このシステムを Google の AI Hypercomputer アーキテクチャに統合し、次世代の推論 AI とエージェント型 AI を強化します。

AI インフラストラクチャスタック全体で効率性を実現

Google は、完全にオープンなエコシステムへの取り組みの一環として、Dynamo と GKE Inference Gateway のインテグレーションを発表いたしました。これにより、アプリケーションレイヤとハードウェア全体にわたってモジュール式のオープンソースコントロールプレーンが提供されます。Dynamo と GKE の Inference Gateway を組み合わせることで、チームはインフラストラクチャを正確なニーズに合わせて調整し、アクセラレータから最大限の費用対効果を引き出し、新しい AI モデルの市場投入までの時間を短縮し、デプロイを将来にわたって保証できます。

A4X VM（NVIDIA GB200 NVL72 と Dynamo を搭載）向けの新しい高度なスケーリングレシピを通じて、大規模な MoE アーキテクチャのパフォーマンスを最大化する方法を学ぶことができます。これらの構成は、AI Hypercomputer で AI 推論ワークロードを実行する際に、メモリとインターコネクトのボトルネックを克服する方法を示しています。

また、Dynamic Workload Scheduler を通じてリソースの取得可能性を高めています。A4X および A4X Max（NVIDIA GB300 NVL72 搭載）の Calendar モードと Flex Start、および G4 VM の新しい Flex Start サポートが提供されます。Dynamic Workload Scheduler を使用すると、必要な容量を正確に予約したり、柔軟な開始ウィンドウを使用したりできます。

Google Cloud の長年の顧客である Snap は、主要なデータ処理パイプライン 2 つを NVIDIA L4 Tensor コア GPU を搭載した Google Cloud G2 VM に移行することで、大幅な費用削減を実現しました。これは、GKE 上の Spark と NVIDIA の新しい cuDF ライブラリを活用することで実現しました。cuDF ライブラリは、シャッフルを多用するワークロードの最適化を自動化し、GPU の効率を最大限に高めます。詳しくは、GTC セッション S81678 をご覧ください。

Vertex AI のトレーニングと Model Garden の進化

Google は、Vertex AI トレーニングクラスタの 2 つの主要なインフラストラクチャの進歩により、次世代 AI の需要に対応しています。まず、A4X VM ドメインのサポートにより、Vertex AI のマネージドインフラストラクチャとフレームワーク機能を活用して、NVIDIA GB200 NVL72 ラックスケールシステムで大規模なトレーニングを行うことができます。これらの集中的なワークロードが中断されないようにするため、新しいハードウェアの復元機能により、構成可能な事前対応型の障害検出スキャンを適用できます。これにより、潜在的なハードウェアの問題を特定して軽減し、重要な「ヒーロー」トレーニングの実行が中断されるのを防ぎます。これらの機能により、グッドプットが向上し、数週間にわたるトレーニングジョブが費用のかかる再起動なしで順調に進むようになります。

「私たちは Google および NVIDIA とともに、高性能で一貫性があり、正確で応答性の高い AI エージェントを提供するという、エージェント型エンタープライズの新たな基準を打ち立てています。NVIDIA GB200 NVL72 上の Vertex AI トレーニングクラスタを活用して Agentforce 360 プラットフォームを強化することで、インフラストラクチャのボトルネックを解消し、GPU を完全に飽和状態に保つことができました。この高パフォーマンスで復元力のあるアーキテクチャにより、研究者は大規模なイノベーションに集中でき、最も複雑な推論ワークロードで大きな成果を上げています。」- Salesforce、最高科学責任者、Silvio Savarese 氏

同時に、NVIDIA の Nemotron 3 ファミリーのオープンモデルのサポートにより、Vertex AI Model Garden の範囲を拡大し続けています。たとえば、Nemotron 3 Nano はワンクリックでデプロイできるため、プライベート VPC への統合が簡単です。また、カタログを拡大し、NVIDIA Nemotron 3 Super 120B モデルを追加しました。これにより、高性能な大規模推論にすぐにアクセスできます。これらのモデルの価値を最大限に高めるため、Google は NVIDIA の最新のパフォーマンスライブラリを Vertex AI に直接統合し、NVIDIA TensorRT-LLM で一般的なオープンソースモデルを最適化しました。

公共部門向けの AI スタートアップを支援

エコシステム内の継続的なイノベーションを促進するため、Google Public Sector と NVIDIA は AI スタートアップアクセラレータプログラムを開始します。この 1 年間のイニシアチブでは、公共部門向けのソリューションを構築する、AI に重点を置いた独立系ソフトウェアベンダー（ISV）の選抜されたコホートをサポートします。

参加者は、NVIDIA Inception と Google Cloud の ISV アクセラレータリソースの両方にアクセスできます。GTC で開始され、Google Cloud Next まで続くこの共同プログラムでは、ミッションクリティカルな公共部門アプリケーションをスケールするために必要な、共同設計されたインフラストラクチャ、技術ガイダンス、市場開拓サポートを、新興テクノロジーのリーダーに提供します。プログラムについて詳しくは、お問い合わせフォームにご記入ください。今後、他のコホートも選出され、発表される予定です。

共同エンジニアリングのコラボレーションが AI スタックのあらゆるレイヤを強化

複雑なエージェント型 AI への移行には、単なるコンピューティング能力以上のものが求められます。完全に最適化された共同設計のスタックが必要です。Google は、分割式 G4 インスタンスや今後リリースされる Vera Rubin プラットフォームなどの柔軟なハードウェアを AI Hypercomputer アーキテクチャに統合し、ソフトウェアの緊密な共同エンジニアリングと組み合わせることで、最も野心的な AI ビジョンを現実に変えるために必要なスケール、レジリエンス、効率性を実現します。

GTC に参加されますか？ブース番号 513 にぜひお立ち寄りください。詳細をご覧いただき、Google のチームと直接お話いただけます。Google と NVIDIA のコラボレーションの詳細については、cloud.google.com/NVIDIA をご覧ください。

-AI およびコンピューティングインフラストラクチャ担当バイスプレジデント兼ゼネラルマネージャー、Mark Lohmeyer

H4D VM の一般提供開始: HPC ワークロード向けに卓越したパフォーマンスとスケーリングを実現

Thu, 12 Mar 2026 02:00:00 +0000

※この投稿は米国時間 2026 年 3 月 5 日に、Google Cloud blog に投稿されたものの抄訳です。

このたび、第 5 世代 AMD EPYC™ プロセッサを搭載した、最新のハイパフォーマンスコンピューティング（HPC）向け最適化 VM である H4D VM の一般提供を開始しました。H4D VM は、製造、ヘルスケアとライフサイエンス、天気予報、電子設計自動化（EDA）などの業界に、優れたパフォーマンス、スケーラビリティ、価値を提供します。H4D は、Slurm を使用した Cluster Toolkit によるオーケストレーションと、Google Kubernetes Engine（GKE）によるオーケストレーションをサポートしています。どちらのアプローチでも、要求の厳しいワークロードをほぼ瞬時にデプロイしてスケールできます。

Google Cloud の CPU ポートフォリオで、Cloud Remote Direct Memory Access（RDMA）を備えた VM ファミリーが登場するのは今回が初めてです。H4D の RDMA は Titanium ネットワークアダプタ上にあり、シングルノードの H4D パフォーマンスを複数のノードにスケールして、大規模な本番環境ワークロードを高速化できます。

ドメインや規模を問わず、解決までの時間を短縮

第 5 世代 AMD EPYC CPU の高コア密度と、Google の革新的な低レイテンシ Falcon ハードウェアトランスポートを搭載した H4D VM により、これまで以上に迅速なイテレーションと検出が可能になります。

業界標準のベンチマークを複数使用して H4D のパフォーマンスを実証し、さまざまなドメインと問題サイズにおける H4D の能力を示しました。

医療とライフサイエンス

医療とライフサイエンス（HCLS）の研究者にとって、H4D VM は科学的発見に不可欠な複雑な分子シミュレーションを加速します。以前の C2D VM と比較して、H4D VM は 96 VM で LAMMPS（LJ ベンチマーク）を実行する際の速度が最大 4.3 倍向上し、18,000 コアで 95% の並列効率を実現します。創薬では、32 台の VM で GROMACS（water_33m）を使用し、6,000 個のコアで 72% の並列効率を実現して、5.8 倍の高速化を実証しました。H4D はスケーラビリティも向上しており、192 台の VM（約 37,000 コア）で LAMMPS LJ ベンチマークを実行し、92% の並列効率を維持することが実証されました（図 3 を参照）。

製造

製造業では、H4D VM はミッションクリティカルなコンピュータ支援エンジニアリング（CAE）ワークフローのパフォーマンスを大幅に向上させることで、エンジニアが設計サイクルを短縮し、より大規模なシミュレーションを実行して、より迅速にイテレーションできるようにします。複雑な数値流体力学（CFD）シミュレーションを実行した際、以前の C2D VM と比較して、H4D VM は 32 個の VM で Ansys Fluent（F1_RaceCar_140m ベンチマーク）を 85% の並列効率で実行し、4.1 倍の高速化を実現しました。オープンソースの OpenFOAM（Motorbike_100m）を実行した際、C2D と比較して、16 個の VM を使用して 5.2 倍の高速化を実現し、122% の超線形並列効率を達成しました。

HPC のコストパフォーマンスの新たな基準

H4D VM は、優れたパフォーマンスと柔軟な使用量モデルを組み合わせることで、Google Cloud 上の HPC ワークロードに最適なコストパフォーマンスを提供するように設計されています。H4D は Dynamic Workload Scheduler（DWS）をサポートしており、DWS は、ジャストインタイムの容量に対応する Flex Start モードと、予約を保証する Calendar モードでワークフローに適応します。これにより、長期契約なしで、コア時間あたり 3 セントという低料金でコンピューティングを利用できます。前世代の VM と比較したパフォーマンスと費用効率の結果は、図 6 と図 7 に詳しく示されています。

包括的な HPC 管理

H4D VM の大規模で高密度のクラスタを管理、デプロイするには、Google Cloud の Cluster Director を活用できます。Cluster Director は、高度なメンテナンス機能（プレビュー版にこちらから登録できます）と、ターンキーシステムブループリントによる迅速なクラスタデプロイのための Cluster Toolkit を提供します。ジョブとワークロードの管理については、H4D VM は Google Cloud のフルマネージドクラウドネイティブサービスである Batch と統合されており、Batch によってキューイング、スケジューリング、リソースプロビジョニングが処理されます。さらに、DWS もサポートされています。これは、将来の予約のための Calendar モードと、時間制限付きのオンデマンド使用のための Flex Start モードの両方で使用できます。

お客様とパートナー様の声

「Jump Tradingは早期アクセスで H4D プラットフォームをテストしましたが、その結果に非常に感銘を受けました。テストプロセスが成功したことで、H4D が要求の厳しい大量のオペレーションに必要なパフォーマンス、安定性、効率性を備えていることが実証されました。前世代のマシンと比較してコストパフォーマンスが最大 50% 向上しており、現在、Google Cloud 上の重要なグリッドワークロードとの統合を加速させています。」- Jump Trading、最高技術責任者 Alex Davies 氏、HPC Linux エンジニアリング部門、Benjamin Stromski 氏

「特に大規模でコンピューティング負荷の高い分野では、最速のシステムはオンプレミスで構築し、ベアメタルハードウェアで実行するしかないという考え方が根強く残っています。ベアメタルで運用する正当な理由として、「ハイパーバイザ税」といった用語がよく使われます。しかし、私たちが行ったテストでは異なる結果が出ています。Google H4D VM は、当社の財務リスクベンチマークにおいて、同世代の最上位 AMD CPU のベアメタルよりも優れたパフォーマンスを発揮します。」- HMxLabs、CEO、Hamza Mian 氏

「要求の厳しい CAE および製造分野向けにマネージド HPC ソリューションを提供する大手プロバイダとして、H4D プラットフォームに対する当社の評価は、お客様の最大規模で最も密結合なシミュレーションワークロードを処理できる能力に重点を置きました。その結果には非常に感銘を受けました。テストでは、基盤となる RDMA ファブリックが、大規模な並列処理に必要な優れた低レイテンシと高帯域幅のパフォーマンスを発揮することが確認されました。このレベルの相互接続効率は、衝突試験や CFD などの重要な製造シミュレーションを高速化するために不可欠です。H4D は、高スループットのエンジニアリングワークロードの真のアクセラレータであることを自ら証明しました。当社は、エンジニアリング業界における HPC のパフォーマンス上限を再定義する可能性に期待しています。」- TotalCAE、社長、Rodney Mach 氏

「新しい H4D インスタンスは、当社の要求の厳しい次世代の TPU シミュレーションワークロードにとって大きな前進です。C2D と比較して、さまざまな EDA ベンチマークにわたって 30% のパフォーマンス向上を確認しており、H4D の強力なシングルコアパフォーマンスが証明されました。これは、開発サイクルの高速化に直接つながり、エンジニアリングチームがより迅速にイテレーションできるようになります。」- Google Cloud、チップ設計手法テクニカルリード、Trevor Switkowski

今すぐ H4D を体験

H4D は現在、us-central1-a（アイオワ）、europe-west4-b（オランダ）、asia-southeast1-a（シンガポール）でご利用可能で、追加のリージョンも近日中に提供予定です。リージョンとゾーンのページでリージョン別の提供状況をご確認のうえ、Cloud RDMAを活用して、特に要件の厳しい HPC ワークロードをデプロイしてください。

^{上述のベンチマークでは、次の構成が実行されました。LAMMPS バージョン 20250722、GROMACS バージョン 2023.1、OpenFOAM バージョン 2312、Ansys Fluent バージョン 2024R1。すべての実行で IntelMPI 2021.17.2 が使用されました。C2D / C3D / C4D は TCP を使用し、H4D は RXM と SAR_LIMIT=2G で RDMA を使用しました。すべての実行で、各プラットフォームで利用可能な最大 ppn（ノードあたりのプロセス数）を使用しました（C2D、C3D、C4D / H4D でそれぞれ 56、180、192）。Ansys Fluent の実行では、H4D で 168 ppn、C4D で可変 ppn が使用されました。SMT はすべてオフ。コスト比較は、DWS Flex Start 料金の H4D-highmem-192 と、オンデマンド料金の c3d-standard-360 および c2d-standard-112 のシングルノード間で行われました。}

^{並列効率と最適なノード数は、入力サイズと通信パターンに依存するため、ワークロードによって異なります。}

- プロダクトマネージャー、 Aysha Keen

- シニア HPC テクノロジスト、 Felix Schürmann

課金の簡素化と費用削減: 新しい費用ベースの CUD に関する FinOps ガイド

Tue, 24 Feb 2026 02:00:00 +0000

※この投稿は米国時間 2026 年 2 月 13 日に、Google Cloud blog に投稿されたものの抄訳です。

クラウド費用の最適化は FinOps における効果的な取り組みの一つであり、確約利用割引（CUD）は依然として極めて有効な手段です。

Google は、2025 年 7 月より新しい費用ベースの CUD モデルのロールアウトを開始し、これにより、費用と節約額が把握しやすくなりました。また、カバレッジが新しい SKU（Cloud Run や H3/M シリーズ VM など）にも拡大され、柔軟性が向上しました。このアップデートは、現在すべてのお客様にご利用いただけます。この新しいモデルが FinOps の実践をどのように簡素化するのか、詳しく見ていきましょう。

1. 費用ベースの CUD データモデルの変更内容

最も重要な変更は、クレジットベースのシステムから、使用量モデルを使用した直接的な割引価格モデルに移行することです。

従来のクレジットモデルでは、1 時間あたりのオンデマンド料金に対してコミットしていました。節約額（実際に実現した費用削減額）を把握するには、オンデマンド料金の全額、コミットメント料金、相殺されるクレジットという 3 つの異なる数値を使用する必要がありました。

1. 従来の計算方法:

$10.00（オンデマンド）+ $5.50（コミットメント料金）- $10.00（クレジット）= $5.50（純費用）
節約額 = $10.00（オンデマンド）- $5.50（純費用）= $4.50

新しい直接的な割引モデルでは、純費用を計算するためにこのような計算を行う必要はありません。割引後の純支出額に直接コミットします。使用量はシンプルに割引された料金で請求されます。

2. 新しい計算方法:

$5.50（割引後の費用）
節約額 = $10.00（オンデマンド）- $5.50（割引後の費用）= $4.50

これにより、純費用を一目で確認できるようになります。節約額の計算も、オンデマンド料金（$10.00）と新しい割引料金（$5.50）を比較するだけで済み、その差が $4.50/時間であることがわかります。

2. 変更前後の節約額を検証する方法

統合された CUD 分析ツールは、移行を監査したり、費用を詳しく分析したりするのに最適なリソースです。新しい費用ベースの CUD モデル用の CUD 分析では、新しいモデルで得られる節約額をすぐに確認できます。また、このツールを使用して、古いモデルと新しいモデルで節約額に違いがあるかどうかを比較検証できます。

節約額の検証手順は以下のとおりです。

1. 移行を実施した日付を特定します。移行日は、請求の概要ページで確認できます。

2. CUD 分析に移動して、移行前後の節約額を検証します。

3. 移行前の費用を定量化する場合:

移行の 1 日前のビューをフィルタします。この例では、2025 年 10 月 26 日です。
CUD プロダクトを選択します（Cloud SQL CUD など）。
この例では、 $69.12 のクレジットを得るために $50.35 の CUD 料金を支払っています。この料金をクレジットから差し引くと、実際に節約できた金額は $18.77 になります。

4. 移行後の費用を検証する場合:

日付を 2025 年 10 月 28 日に変更します。
新しいモデルでは、割引料金を前払いします。ダッシュボードには純費用 $50.35 が反映され、オンデマンド費用 $69.12 と比較した場合の節約額が $18.77 であることが明確にわかります。

さらに、このリリースでは費用レポートのアップデートも行われており、「コスト削減プログラム」が追加されました。これにより、総クレジットではなく、実際の純節約額（上記の例では $18.77）が正確に反映されます。費用レポートで移行前後のデータを比較する際は、コミットメントの全範囲を把握するために、使用量の SKU とコミットメント料金の SKU の両方を必ず含めてください。

3. 新しい CUD 分析の他の機能

新しいモデルのサポートに加えて、新しい CUD 分析ツールでは、CUD のカバレッジと使用状況の可視性が高められています。これにより、最大 30 日間の時間単位のデータ粒度で CUD を分析できるようになりました。1 日の平均値では特定の時間帯に発生する使用率の急上昇が見逃されることが多いため、これは FinOps チームに大きなメリットをもたらします。

CUD 分析: コンピューティングフレキシブル CUD のカバレッジの分析

CUD 分析: CUD 購入ごとに使用状況を可視化

独自のデータ分析ツールを使用する場合は、新しい費用ベースの CUD メタデータのエクスポート を利用することで、費用ベースの CUD をプログラムで管理できます。このエクスポートを使用して、Billing BigQuery Export データセットと結合し、すべてのコミットメントデータに対して詳細なプログラム分析を実行できます。また、CUD 分析ビューから CSV をエクスポートすることで、BigQuery の完全なエクスポートを必要とせずに、すべてのリソースとその料金の元データを確認することもできます。

4. どの程度のコミットメントを購入すべきか

購入するコミットメントを決定するための主要なツールとして、CUD の推奨事項を利用できます。先日強化された、コンピューティングフレキシブル CUD のコミットメントに関する推奨事項では、GKE、Cloud Run、Cloud Run functions、Compute Engine のデータを含めることで、精度を向上させました。さらに、CUD シナリオのモデリングにより、これらの提案をリアルタイムで調整できます。また、カバレッジのしきい値の調整、使用量が不規則な特定の日付の除外、最長 180 日間の分析のルックバックウィンドウの延長などを行うことで、お客様のリスクプロファイルに沿った正確なコミットメントレベルを特定できます。

CUD シナリオのモデリング: 複数のオプションを試して、理想的な CUD 戦略を特定

5. フレキシブル CUD についての関連情報

新しい費用ベースのモデルのリリースにより、フレキシブル CUD と GKE / Cloud Run CUD を組み合わせて使用する場合に影響していたレポートの制限を解消しました。これまでは、Google の分析ツールで特定のクレジットのソースを正確に特定できなかったため、節約額、カバレッジ、使用状況などの KPI 指標に不一致が生じていました。新しい費用ベースの CUD モデルでは、この制限が解消されたため、CUD 分析において Google Cloud サービスごとの正確かつ詳細な節約額を確認できるようになりました。

新しい費用ベースのモデルの利用を開始するには、課金コンソールにアクセスしてください。詳しくは、以下のドキュメントをご覧ください。

- シニアプロダクトマネージャー、Alfonso Hernandez

- シニアプロダクトマネージャー、Rahul Sharma

NVIDIA RTX PRO 6000 により、Cloud Run 上で高性能推論とサーバーレスコンピューティングが融合

Mon, 09 Feb 2026 02:00:00 +0000

※この投稿は米国時間 2026 年 2 月 3 日に、Google Cloud blog に投稿されたものの抄訳です。

大規模な推論モデルの実行には、クラスタ管理や VM の手動メンテナンスなど、運用面で大きな負担が伴うことが少なくありません。こうした負担を軽減する方法の一つが、基盤となるインフラストラクチャを意識せずに利用できるサーバーレスのコンピューティングプラットフォームを活用することです。Google はこのたび、Cloud Run で NVIDIA RTX PRO™ 6000 Blackwell Server Edition GPU に対応するハイエンド推論においてサーバーレスの提供を開始いたしました。現在はプレビュー版が提供されており、Gemma 3 27B や Llama 3.1 70B といった大規模モデルも、Cloud Run でおなじみの「デプロイしたらあとは任せる」感覚でデプロイできます。予約は不要。クラスタ管理も不要。必要なのはコードだけです。

強力な GPU プラットフォーム

NVIDIA RTX PRO 6000 Blackwell GPU は、NVIDIA L4 GPU と比べて大幅な性能向上を実現しており、96 GB の vGPU メモリ、1.6 TB/秒の帯域幅に加え、FP4 および FP6 をサポートしています。これにより、基盤となるインフラストラクチャを自ら管理することなく、70B 超のパラメータを持つ大規模モデルを提供できます。Cloud Run では、NVIDIA RTX PRO 6000 Blackwell GPU を Cloud Run サービス、ジョブ、またはワーカープールに、予約不要でオンデマンドにアタッチできます。以下は、NVIDIA RTX PRO 6000 Blackwell GPU を活用してビジネスを加速できる主な活用例です。

生成 AI と推論: FP4 精度をサポートする NVIDIA RTX PRO 6000 Blackwell GPU の高効率な演算性能により、LLM のファインチューニングや推論を高速化できます。これにより、マルチモーダルモデルやテキストから画像を生成するモデルなど、リアルタイム性が求められる生成 AI アプリケーションを構築できます。さらに、Cloud Run サービス上でモデルを実行することで、迅速な起動とスケーリングのメリットも享受できます。インスタンス数が 0 の状態から、GPU ドライバがインストールされた GPU 環境を 5 秒未満で起動可能です。トラフィックが減少してリクエストがなくなると、Cloud Run は GPU インスタンスを自動的に 0 までスケールダウンします。
ファインチューニングとオフライン推論: NVIDIA RTX PRO 6000 Blackwell GPU は、Cloud Run ジョブと組み合わせることで、モデルのファインチューニングに活用できます。第 5 世代 NVIDIA Tensor コアは AI モデルと連携し、レンダリングパイプラインの高速化やコンテンツ制作の効率向上に貢献します。
特定のワークロードに最適化されたスケーリング: GPU 対応のワーカープールを使用することで、GPU ワーカーをきめ細かく制御できます。外部のカスタム指標に基づく動的スケーリングや、複雑でステートフルな処理に対応するための「常時稼働」インスタンスの手動プロビジョニングなど、用途に応じた柔軟なスケーリングを実現できます。

Cloud Run は、プロダクションレディな GPU アクセラレーテッドタスクを、最もシンプルに実行できるよう設計されています。Cloud Run の主な特長は次のとおりです。

柔軟なコンピューティングを備えたマネージド GPU: Cloud Run では、必要な NVIDIA ドライバがあらかじめインストールされているため、インフラストラクチャの準備に煩わされることなく、コードの実装に集中できます。NVIDIA RTX PRO 6000 Blackwell GPU を使用する Cloud Run インスタンスでは、最大 44 vCPU と 176 GB の RAM を構成できます。
本番環境レベルの信頼性: Cloud Run はデフォルトでゾーン冗長性を提供しており、ゾーン停止に耐えるために十分な容量をサービスに確保できます。これは、Cloud Run で GPU を使用した場合にも適用されます。また、ゾーン冗長性をオフにして、ゾーン停止が発生した場合に GPU ワークロードのベストエフォートフェイルオーバーを行うことにすれば、料金を低く抑えられるメリットがあります。
緊密な統合: Cloud Run は、Google Cloud の他のサービスとネイティブに連携します。Cloud Storage バケットをローカルボリュームとしてマウントすることで大規模なモデルの重みを読み込んだり、Identity-Aware Proxy（IAP）を使用して Cloud Run サービス宛てのトラフィックを安全に保護したりすることができます。

使ってみる

NVIDIA RTX PRO 6000 Blackwell GPU は、現在プレビュー版としてオンデマンドで利用可能です。対応リージョンは us-central1 および europe-west4 で、asia-south2 と asia-southeast1 では限定的に提供されています。オープンモデルを実行する最も簡単な方法の一つである Ollama を使用すれば、NVIDIA RTX PRO 6000 GPU を有効化した Cloud Run 上に、次のコマンドで最初のサービスをデプロイできます。

code_block: <ListValue: [StructValue([('code', 'gcloud beta run deploy my-service \\\r\n--image ollama/ollama --port 11434 \\\r\n--cpu 20 --memory 80Gi \\\r\n--gpu-type nvidia-rtx-pro-6000 \\\r\n--no-gpu-zonal-redundancy \\\r\n--region us-central1'), ('language', ''), ('caption', <wagtail.rich_text.RichText object at 0x7f16d9aa2040>)])]>

詳しくは、最新の Cloud Run ドキュメントおよび AI 推論のベストプラクティスをご覧ください。

-シニアプロダクトマネージャー、James Ma

-シニアエンジニアリングマネージャー、Oded Shahar

一般提供が開始された Axion ベースの N4A VM で費用対効果が 2 倍に

Fri, 06 Feb 2026 02:00:00 +0000

※この投稿は米国時間 2026 年 1 月 28 日に、Google Cloud blog に投稿されたものの抄訳です。

2026 年 1 月 27 日: N4A の一般提供が開始されました。使用を開始するには、Google Cloud コンソールから N4A をデプロイしてください。

昨今の意思決定者と構築者は、クラウド費用の増加を管理しながら、顧客が求めるパフォーマンスを実現するという課題に絶えず直面しています。スケールアウトマイクロサービスを使用し、増え続けるデータを処理するようにアプリケーションが進化するにつれて、組織は増大する汎用ワークロードをサポートするために、基盤となるインフラストラクチャの効率性を最大限に高める必要があります。

このニーズに応えるため、Google は最新の Axion ベースの仮想マシン（VM）シリーズである N4A を発表しました。現在、Compute Engine、Google Kubernetes Engine（GKE）、Dataproc、Batch でプレビュー版が提供されています。Dataflow やその他のサービスでも近日中にサポートされる予定です。

N4A は、現行の N シリーズ VM の中で最も費用対効果が高く、同等となる現行の x86 ベースの VM と比較して費用対効果が最大 2 倍であり、ワットあたりのパフォーマンスも 80% 優れています。そのため、幅広い汎用ワークロードの総所有コスト（TCO）をさらに最適化しやすくなります。これは、GKE でスケールアウトウェブサーバーとマイクロサービスを実行するクラウドネイティブ企業、バックエンドアプリケーションサーバーや中規模データベースを管理する企業チーム、大規模な CI / CD ビルドファームを運用するエンジニアリング組織で確認されています。

Google Cloud では、オーケストレーターからランタイムまで、スタックのあらゆるレイヤのストレージ、ネットワーキング、ソフトウェアでコンピューティングサービスを共同設計し、優れたシステムレベルのパフォーマンスと費用対効果を実現しています。N4A の画期的な費用対効果を支えているのは、Arm® Neoverse® N3 コンピューティングコアを基盤とする最新世代の Google Axion プロセッサ、Google の動的リソース管理（DRM）テクノロジー、ネットワーキングとストレージの処理をオフロードして CPU を解放する Google Cloud のカスタム設計のハードウェアおよびソフトウェアシステムである Titanium です。Titanium は、Google Cloud の垂直統合型ソフトウェアスタックの一部です。このスタックは、サーバー内のカスタムシリコンから、42 のリージョンを 775 万キロメートルの陸上および海底ファイバーケーブルでつなぐ地球規模のネットワークまで、効率を最大化し、超低レイテンシと高帯域幅をグローバル規模でお客様に提供するように設計されています。

汎用コンピューティングを再定義し、AI 推論を可能にする

N4A は汎用性を重視して設計されており、汎用ワークロードと CPU ベースの AI ワークロードをサポートする一連の機能を備えています。事前定義されたカスタムシェイプで提供され、高 CPU（vCPU あたり 2 GB のメモリ）、標準（vCPU あたり 4 GB）、高メモリ（vCPU あたり 8 GB）の構成で、vCPU は最大 64 個、DDR5 は 512 GB、インスタンスネットワーキングは最大 50 Gbps の帯域幅に対応します。N4A VM は、最新世代の Hyperdisk ストレージオプション（Hyperdisk Balanced、Hyperdisk Throughput、Hyperdisk ML（近日提供予定）など）をサポートしており、インスタンスあたり最大 160,000 IOPS、2.4 GB/秒のスループットを実現します。

N4A は、お客様が日々実行する主要なワークロードを代表する、さまざまな業界標準ベンチマークで優れたパフォーマンスを発揮します。たとえば、現行世代の同等となる x86 ベースの VM と比較して、コンピューティング能力に制約のあるワークロードで最大 105%、スケールアウトウェブサーバーで最大 90%、Java アプリケーションで最大 85%、汎用データベースで最大 20% 優れた費用対効果を実現します。

脚注: 2025 年 10 月現在。パフォーマンスは、一般提供されている同等の最新世代の VM 上で汎用ストレージタイプを使って本番環境として実行された、SPECrate®2017_int_base、SPECjbb2015、MySQL Transactions/minute（RO）、Google 内部 Nginx リバースプロキシベンチマークの推定スコアに基づいています。費用対効果に関する情報は、Google Cloud の公開済みおよび公開予定の正規料金に基づいています。

実際、新しい N4A インスタンスの先行ユーザーの費用対効果は大幅に向上しています。

「ZoomInfo では、効率性が最優先事項である大規模なデータインテリジェンスプラットフォームを運用しています。お客様にタイムリーな分析情報を提供するために不可欠な当社のコアデータ処理パイプラインは、GKE の Dataflow と Java サービスで広範に実行されています。新しい N4A インスタンスのプレビューでは、x86 ベースの同等のインスタンスと比較して、これらの主要なワークロードの費用対効果が 60% 向上していることがわかりました。これにより、プラットフォームをより効率的にスケールし、より高い価値をより迅速にお客様にお届けできるようになりました。」- ZoomInfo、チーフインフラストラクチャアーキテクト、Sergei Koren 氏

「AI 時代のコンピューティング需要を満たすには、パフォーマンス、効率性、柔軟性、スケーラビリティが組織に求められます。これには、Google Cloud とのパートナーシップの中核にある緊密なコラボレーションと共同設計が必要です。N4A は費用対効果を再定義するものであり、お客様は新たなレベルでインフラストラクチャを最適化できます。企業は Arm と Google Cloud を使用して、ワークロードの要件に最適なインフラストラクチャを選択できます。」 - Arm、インフラストラクチャビジネス、サーバーエコシステム開発担当ディレクター、Bhumik Patel 氏

カスタムマシンタイプと Hyperdisk によるきめ細かな制御

Google の N シリーズ VM の大きな強みは、これまでも柔軟性にありましたが、N4A ではその柔軟性をさらに進化させ、Axion ファミリーとして初めて、最も広く利用されている機能の一つであるカスタムマシンタイプ（CMT）を提供します。事前定義された構成にワークロードを合わせるのではなく、N4A の CMT ではアプリケーション固有のニーズに合わせて vCPU とメモリの量を個別に構成できます。インスタンスのサイズを適正化できるため、使用したリソースに対してのみ料金を支払うことになり、無駄を最小限に抑えて TCO を最適化できます。

特定のワークロードにリソースを適合させるというこの原則は、ストレージにも適用されます。N4A VM は、最新世代の Hyperdisk をサポートしており、アプリケーションのニーズに最適なストレージプロファイルを選択できます。

Hyperdisk Balanced: N4A VM あたり最大 160,000 IOPS で、ほとんどの汎用ワークロードに対して最適なパフォーマンスとコストの組み合わせを提供します。
Hyperdisk Throughput: Hadoop や Kafka など、帯域幅を大量に消費する分析ワークロードで最大 2.4 GiBps のスループットを実現し、価値の高い大容量ストレージを提供します。
Hyperdisk ML（一般提供開始）: AI / ML ワークロード専用に構築されており、モデルの重みやデータセットが保存された単一のディスクを最大 32 個の N4A インスタンスに同時にアタッチして、大規模な推論やトレーニングのタスクを実行できます。
Hyperdisk ストレージプール: 容量とパフォーマンスをボリューム単位ではなく、まとめてプロビジョニングできるため、コストを最大 50 %削減しながら管理を簡素化できます。

「Vimeo では、大規模な動画コード変換プラットフォームを効率的に管理するために、長年にわたってカスタムマシンタイプを利用してきました。新しい Axion ベースの N4A インスタンスの初期テストでは非常に有望な結果が得られ、新たなレベルの効率性が実現しています。当社の主要なコード変換ワークロードのパフォーマンスは、同等の x86 VM と比較して 30% 向上しました。これにより、運用モデルを変更することなくユニットエコノミクスを改善し、より収益性の高い方法でサービスを拡大する明確な道筋が示されました。」 - Vimeo、ホスティングおよび配信オペレーション担当シニアディレクター、Joe Peled 氏

お客様の選択肢を広げる Arm ベースの Axion ポートフォリオの拡大

C シリーズ VM は、中規模から大規模のデータベースやインメモリキャッシュなど、一貫して高いパフォーマンスを必要とするワークロード向けに設計されています。価格とパフォーマンスのバランスが良く、柔軟性を備えた N シリーズ VM は、Compute Engine の重要な柱となっており、スケールアウト Java / GKE ワークロードなど、リソースのニーズが変動するワークロードの実行コストを削減できます。2024 年 10 月、Google は初の Axion ベースのマシンシリーズである C4A をリリースしました。N4A の導入によってこの C4A が補完され、ワークロードの正確なニーズに適したさまざまな Google Axion インスタンスを提供できるようになりました。

さらに、GKE は Axion ベースの C4A と N4A のマシンタイプをオーケストレートすることで、費用対効果を大幅に向上させます。また、カスタム ComputeClass でこれらのマシンタイプをプロビジョニングして組み合わせ、ワークロードを適切なハードウェアにマッチさせます。この自動化された異種クラスタ管理により、チームはアプリケーションスタック全体で TCO を最適化できます。

さらに、C4A.metal が Axion ファミリーに加わりました。これは Google Cloud 初の Axion ベアメタルインスタンスで、自動車システム開発、厳格なライセンス要件があるワークロード、Android ソフトウェア開発など、仮想化されていない環境で特殊なアプリケーションを実行するために基盤となる物理サーバーへのアクセスが必要になるユースケースに対応します。C4A.metal はまもなくプレビュー版で利用可能になります。

Axion の導入は、広範な成熟した Arm エコシステムに支えられ、これまで以上に簡単になっています。C4A と N4A を組み合わせることで、パフォーマンスやワークロード固有の要件に妥協することなく、ビジネス運営の総費用を削減できます。

費用最適化と柔軟性に優れた N4A: スケールアウトウェブサーバー、マイクロサービス、コンテナ化されたアプリケーション、オープンソースデータベース、バッチ、データ分析、開発環境、データ準備、AI / ML のテストなど、価格とパフォーマンスのバランスが求められる汎用ワークロード向けに設計されています。
一貫して高いパフォーマンス、予測可能性、制御性を実現する C4A: 中規模から大規模のデータベース、インメモリキャッシュ、費用対効果の高い AI / ML 推論、トラフィックの多いゲームサーバーなど、1 マイクロ秒が重要なワークロードを強化します。ミッションクリティカルなワークロード向けの制御されたメンテナンスエクスペリエンス、最大 100 Gbps のネットワーク帯域幅、次世代の Titanium ローカル SSD ストレージを提供し、一貫したパフォーマンスを実現します。

「Google Cloud の Axion ポートフォリオに移行したことで、重要な競争上の強みを得られました。C4A インスタンス（サプライサイドプラットフォーム（SSP）バックエンドサービスなど）を使用することで、低くて安定したレイテンシを維持しながら、コンピューティング使用量を 20% 削減することができました。さらに、C4A を使用することで、インスタンスサイズに関係なく、ステートフルワークロードに必要な IOPS で Hyperdisk を活用できるようになりました。この柔軟性により、クライアントの広告オークションの落札数を増やしながら、利益率を大幅に改善できています。現在、API リレーサービスなど、最も柔軟性が必要となるいくつかの主要なワークロードを実行して、N4A ファミリーをテストしています。本番環境で実行されている複数のアプリケーションで、以前のインフラストラクチャと比較して CPU の使用量が 15% 減り、コストもさらに削減できました。同時に、必要なワークロード特性を適切なインスタンスでサポートできるようになっています。」 - Rise、クラウドおよびソフトウェアアーキテクト、Or Ben Dahan 氏

今すぐ N4A を使ってみる

N4A は、Google Cloud リージョンの us-central1（アイオワ）、us-east4（バージニア）、us-east1（サウスカロライナ）、us-west1（オレゴン）、asia-southeast1（シンガポール）、europe-west1（ベルギー）、europe-west2（ロンドン）、europe-west3（フランクフルト）、europe-west4（オランダ）でご利用いただけます。今後、さらに多くのリージョンでご利用いただけるようになる予定です。N4A の詳細については、こちらのドキュメントをご覧ください。N4A のデプロイはコンソールから実行できます。

- シニアプロダクトマネージャー、Nate Baum

- グループプロダクトマネージャー、Mo Farhat

Google Cloud A4X（GB200）と NVIDIA Dynamo を使用した WideEP Mixture-of-Experts 推論のスケーリング

Fri, 30 Jan 2026 02:00:00 +0000

※この投稿は米国時間 2026 年 1 月 23 日に、Google Cloud blog に投稿されたものの抄訳です。

組織が標準的な LLM から DeepSeek-R1 のような大規模な Mixture-of-Experts（MoE）アーキテクチャに移行するにつれて、主な制約は、物理的な計算密度から通信レイテンシとメモリ帯域幅へと変化しました。Google はこのたび、エージェント型 AI 時代におけるインフラストラクチャのボトルネックの解消を目指して設計された 2 つの新しい検証済みレシピをリリースいたしました。これらの新しいレシピは、NVIDIA GB200 NVL72 と NVIDIA Dynamo を搭載した A4X マシンシリーズ上のスループットとレイテンシの両方を最適化するための明確な手順を提供します。これは、2025 年 9 月に公開した A3 Ultra（NVIDIA H200）VM 上の分散型推論のリファレンスアーキテクチャを拡張したものです。

Google Cloud の AI インフラストラクチャの多層スケーラビリティと A4X のラックスケールのアクセラレーションを組み合わせることで、両者の利点を AI インフラストラクチャにもたらします。これらのレシピは、動的リソース割り当て（DRA）や推論ゲートウェイなどの重要な推論インフラストラクチャへの投資を含む、Google Cloud と NVIDIA の間の広範なコラボレーションの一環をなすものです。

更新されたリファレンスアーキテクチャの一部を以下にご紹介します。

インフラストラクチャ: NVIDIA GB200 NVL72 を搭載した Google Cloud の A4X マシンシリーズで、第 5 世代の NVIDIA NVLink で接続された 72 個の GPU による単一の計算ドメインを構築します。
サービングアーキテクチャ: NVIDIA Dynamo は分散ランタイムとして機能し、ラックスケールのファブリック全体で KV キャッシュの状態とカーネルスケジューリングを管理します。
パフォーマンス: 8K / 1K の入力シーケンス長（ISL）/ 出力シーケンス長（OSL）の場合、スループット最適化構成では合計 6,000 トークン/秒/GPU 超のスループット、レイテンシ最適化構成では 10 ミリ秒のトークン間レイテンシ（ITL）を達成しました。
デプロイ: Google Kubernetes Engine（GKE）をオーケストレーションに使用してこのスタックを Google Cloud にデプロイするために、検証済みのリファレンスアーキテクチャが現在利用可能です。

インフラストラクチャレイヤ: A4X ラックスケールアーキテクチャ

2025 年 2 月の A4X のリリースに関するお知らせで、スケジューラが利用できるトポロジを根本的に変化させる GB200 NVL72 アーキテクチャを実装することで A4X VM が帯域幅の制約をどのように解消したかについて説明しました。

NVLink ドメインがサーバーシャーシ（通常は 8 個の GPU）にバインドされていた旧世代とは異なり、A4X は統合ファブリックを提供します。このファブリックは、以下の特徴を備えています。

72 個の NVIDIA Blackwell GPU が NVLink Switch システムで相互接続され、統合共有メモリを備えた 1 つの巨大な GPU として動作します。
130 TB/秒の総帯域幅により、オンボードメモリへのアクセスに匹敵するレイテンシプロファイル（72 個の GPU x 1.8 TB/秒/GPU）でオールツーオール通信が可能です。
NVFP4 のネイティブサポート: Blackwell Tensor Core は 4 ビット浮動小数点の適合率をサポートし、互換性のあるモデルレイヤの 8 ビット浮動小数点と比較してスループットを実質的に 2 倍にします。このベンチマークでは、以前に公開された結果と同じ構成で比較できるよう、8 ビット浮動小数点の適合率スケーリングを使用しました。

サービングレイヤ: NVIDIA Dynamo

この規模のハードウェアには、同期オーバーヘッドを発生させることなく分散状態を管理できるランタイムが必要です。NVIDIA Dynamo は、この分散推論ランタイムとして機能します。単純なモデル提供にとどまらず、基盤となるインフラストラクチャ全体で推論リクエストの複雑なライフサイクルを調整します。

サービングレイヤは、次のメカニズムを通じて A4X の使用率を最適化します。

Wide Expert Parallelism（WideEP）: 従来の MoE サービングでは、1 つのノード（通常は 8 個の GPU）内でエキスパートをシャード化するため、特定のエキスパートが「稼働」状態になると負荷の不均衡が生じます。Google は、A4X の統合ファブリックを使用して、72 個の GPU を搭載したラック全体にエキスパートを分散します。この WideEP 構成は、大規模なコンピューティングプール全体で負荷を分散することで、バースト性の高いエキスパート活性化パターンを吸収し、単一の GPU がストラグラーになるのを防ぎます。
Deep Expert Parallelism（DeepEP）: WideEP がエキスパートを分散するのに対し、DeepEP は重要な「分離」と「結合」の通信フェーズを最適化します。DeepEP は、割り当てられたエキスパートにトークンをルーティングするために必要な高帯域幅のオールツーオールオペレーションを高速化します。このアプローチにより、大規模な MoE 推論のボトルネックとなる同期オーバーヘッドを最小限に抑えます。
リクエスト処理の分離: Dynamo は、計算依存型のプレフィルフェーズとメモリ依存型のデコードフェーズを分離します。A4X では、スケジューラがラック内の特定の GPU グループをプレフィルに割り当て（Tensor コアの飽和度を最大化）、他の GPU がデコードを処理（メモリ帯域幅の使用率を最大化）することで、リソースの競合を防止できます。
グローバルな KV キャッシュ管理: Dynamo は KV キャッシュの状態のグローバルビューを維持します。そのルーティングロジックは、関連するコンテキストを保持する特定の GPU にリクエストを転送し、冗長な計算とキャッシュの移行を最小限に抑えます。
JIT カーネルの最適化: ランタイムは NVIDIA Blackwell 固有のカーネルを活用し、生成フェーズでジャストインタイムのオペレーション融合を実行してメモリアクセスオーバーヘッドを削減します。

オーケストレーションレイヤ: ソフトウェアとハードウェアのマッピング

A4X が物理的なファブリックを提供し、Dynamo がランタイムロジックを提供する一方で、オーケストレーションレイヤはソフトウェア要件をハードウェアトポロジにマッピングする役割を担います。GB200 NVL72 のようなラックスケールアーキテクチャでは、コンテナオーケストレーションは標準的なスケジューリングを超えて進化する必要があります。オーケストレーターが物理的な NVLink ドメインを明示的に認識できるようにすることで、プラットフォームのパフォーマンスを最大限に引き出し、ワークロードを最適な場所に配置できるようになります。

GKE は、次のメカニズムを通じて、ハードウェアとソフトウェアの整合性を確保します。

1. ラックレベルのアトミックスケジューリング: GB200 NVL72 では、「コンピューティングの単位」は単一の GPU や単一のノードではなく、ラック全体が高速コンピューティングの新たな基本的構成要素となります。Google は、特定のアフィニティ設定で GKE 容量予約を使用しています。これは、高密度なデプロイを保証する A4X インフラストラクチャの予約済みブロックを対象としています。この予約を使用することで、GKE は、Dynamo インスタンスを構成するすべての Pod が、NVLink ドメインを確立するために必要な特定の物理的に連続したラックハードウェアに配置されるようにします。これにより、WideEP と DeepEP に必要なハードトポロジ保証が提供されます。

2. GCS FUSE による低レイテンシのモデル読み込み: 大規模な MoE モデルのサービングには、テラバイト単位の重みを高帯域幅メモリ（HBM）に読み込む必要があります。ローカルディスクに重みをダウンロードする従来のアプローチでは、許容できない「コールドスタート」のレイテンシが発生します。GCS FUSE CSI ドライバを活用して、モデルの重みを Google Cloud Storage からローカルファイルシステムとして直接マウントします。これにより、Dynamo ランタイムはモデルを「遅延読み込み」し、データチャンクをオンデマンドで GPU メモリに直接ストリーミングできます。このアプローチでは事前ダウンロードのフェーズが不要になるため、新しい推論レプリカの準備が完了するまでの時間が大幅に短縮され、トラフィックの急増に対応した自動スケーリングがより迅速に行えるようになります。

3. カーネルバイパスネットワーキング（GPUDirect RDMA）: A4X の合計 130 TB/秒の帯域幅を最大化するには、ネットワーキングスタックで CPU と I/O の関与を最小限に抑える必要があります。Titanium ネットワークアダプタで GPUDirect RDMA を有効にするように GKE クラスタを構成します。特定の NCCL トポロジ構成を挿入し、コンテナで IPC_LOCK 機能を有効にすることで、アプリケーションが OS カーネルをバイパスし、GPU とネットワークインターフェース間でダイレクトメモリアクセス（DMA）オペレーションを実行できるようにします。この構成では、データパス管理から NVIDIA Grace CPU がオフロードされるため、高スループットのトークン生成時にネットワーク I/O がボトルネックになることはありません。

パフォーマンスの検証

2 つの異なる最適化目標で SGLang を使用して DeepSeek-R1（8 ビットの浮動小数点形式）で 8K / 1K ワークロードのスケーリング特性を評価したところ、次のことがわかりました。

1. スループットを最適化した構成

設定: DeepEP を使用する 72 個の GPU。5 ワーカー（TP8）の 10 個のプレフィルノードと、1 ワーカー（TP32）の 8 個のデコードノード。
結果: 6,000 超の合計トークン/秒/GPU（1,500 出力トークン/秒/GPU）を維持しました。これは、InferenceMAX が公開したパフォーマンス（ソース）と一致します。

2. レイテンシ最適化の構成

設定: DeepEP を使用しない 8 個の GPU（2 つのノード）。1 つのプレフィルノードと 1 つのプレフィルワーカー（TP4）、1 つのデコードノードと 1 つのデコードワーカー（TP4）。
結果: 同時実行数 4 で、中央値 10 ミリ秒のトークン間レイテンシ（ITL）を維持しました。これは、InferenceMAX が公開しているパフォーマンス（ソース）と一致します。

今後の対応

モデルが静的なチャットインターフェースから複雑なマルチターンの推論エージェントへと進化するにつれて、推論インフラストラクチャの要件は変化し続けます。Google は、AI 推論スタックの 3 つのレイヤすべてに投資してこれらの需要に対応しており、ベンチマークとレシピを積極的に更新、リリースしています。

インフラストラクチャレイヤ: 最近リリースされた A4X Max は、単一の 72 GPU ラック構成の NVIDIA GB300 NVL72 をベースとしており、A4X と比較して 1.5 倍の NVFP4 FLOP、1.5 倍の GPU メモリ、2 倍のネットワーク帯域幅を実現します。
サービングレイヤ: Google は、KV Block Manager と Google Cloud リモートストレージのペアリング、Dynamo 指標の Cloud Monitoring ダッシュボードへの取り込みによるオブザーバビリティの強化、GKE カスタムコンピューティングクラス（CCC）の活用による容量と可用性の向上、FP4 適合率による新しいベースラインの設定など、NVIDIA Dynamo のコンポーネントとのより深い統合を積極的に検討しています。
オーケストレーション: llm-d の明確なパスで確立された設計パターンに準拠し、インテリジェントな推論スケジューリングコンポーネントである推論ゲートウェイなど、追加の最適化をこれらのテストに組み込む予定です。Google は、高度なトラフィックオーケストレーションのための集中型メカニズムを提供することを目指しています。このメカニズムは、ワークロードがサービングレイヤのランタイムに到達する前に、リクエストの優先順位付け、キューイング、マルチモデルルーティングを処理します。

大規模な MoE モデルをデプロイする場合でも、次世代の推論エージェントを設計する場合でも、このスタックは、最先端の研究を本番環境で実現するために必要なエクサスケールの基盤を提供します。

使ってみる

Google は、お客様の AI ワークロード向けに、最もオープンで柔軟かつ高性能なインフラストラクチャを提供することに取り組んでいます。インテリジェントなルーティングとスケーリングから最新の NVIDIA AI インフラストラクチャまで、NVIDIA Dynamo スイートを完全にサポートすることで、LLM の大規模なサービングを可能にするプロダクションレディな完全ソリューションを提供します。

A4X マシンクラスの 2 つの具体的なレシピでデプロイリポジトリを更新しました。

スループット最適化のレシピ - DeepEP を使用した 72 個の GPU
レイテンシ最適化のレシピ - DeepEP を使用しない 8 個の GPU

皆様がどのようなものを構築されるか楽しみにしております。

-プロダクトマネージャー、Sean Horgan

-ソフトウェアエンジニア、Ling Lin

VM OS エージェントの大規模な管理を簡素化: VM Extensions Manager のご紹介

Tue, 20 Jan 2026 01:00:00 +0000

※この投稿は米国時間 2026 年 1 月 6 日に、Google Cloud blog に投稿されたものの抄訳です。

IT 管理者であれば、大規模な VM インスタンスフリート全体でオペレーティングシステム（OS）エージェント（Google で拡張機能と呼んでいる機能）を管理するのが複雑で面倒な作業であることをご存じでしょう。実際、拡張機能によって強力なアプリケーションレベルの機能が利用可能になるにもかかわらず、VM フリートで拡張機能ベースのサービスを採用する際にこの運用オーバーヘッドが大きな障壁となる可能性があります。

この問題を解決するため、Google は VM Extensions Manager のプレビュー版を発表しました。これは、Compute Engine API に直接統合された新しい機能で、Google 提供の拡張機能のインストールと管理を簡素化するものです。

VM Extensions Manager はポリシー主導型の一元化されたフレームワークを採用しており、VM インスタンス上の Google Cloud 拡張機能のライフサイクル全体を管理できます。手動スクリプト、起動スクリプト、その他のカスタムソリューションに頼る代わりに、ポリシーを定義することで、既存か新規かにかかわらず、すべての VM インスタンスがポリシーに準拠するように管理可能になります。これにより、運用オーバーヘッドを数か月から数時間に短縮できます。

VM Extensions Manager の使用を開始する方法

VM Extensions Manager は compute.googleapis.com API に直接統合されているため、新しい API を検出したり有効にしたりする必要はなく、数分で使い始めることができます。

1. 拡張機能ポリシーを定義するまず、拡張機能の望ましい状態を指定するポリシーを定義します。

プレビュー版では、プロジェクトレベルでゾーンポリシーを作成できます。このポリシーは、単一の特定のゾーン内にある VM インスタンスを対象とします。

今後数か月以内に、グローバルポリシーと、組織レベルおよびフォルダレベルのポリシーもサポート対象に追加される予定です。これにより、優先順位を使用して柔軟なポリシー階層を構築し、単一のコントロールプレーンから企業フリートの拡張機能を管理できるようになります。

このポリシーは、Google Cloud コンソールから直接作成できます。

Cloud コンソールを使用して VM 拡張機能のポリシーを作成するデモ

2. 拡張機能を選択するポリシーで、管理する Google Cloud 拡張機能を選択します。プレビュー版の VM Extensions Manager では、次のような重要な Google Cloud 拡張機能がサポートされています。

Cloud Ops エージェント（ops-agent）: Compute Engine インスタンスからテレメトリーを収集する主要エージェントです。
SAP 用エージェント（sap-extension）: Google Cloud の SAP 用エージェントは、Compute Engine インスタンスと Bare Metal Solution サーバーで実行される SAP ワークロードのサポートとモニタリングのために Google Cloud が提供しているエージェントです。
コンピューティングワークロード用エージェント（workload-extension）: Compute Engine で実行されているワークロードをモニタリングして評価するために使用できるエージェントです。

今後数か月以内に、拡張機能ベースのサービスがさらに追加される予定です。

拡張機能の特定のバージョンを指定するか、空のまま（デフォルト）にして最新の拡張機能をインストールできます。デフォルトを選択した場合、新しいバージョンのリリースを VM Extensions Manager が自動的に処理するため、ユーザーはすぐに新機能や改善機能にアクセスできます。

3. グローバルポリシーをより細かく制御してロールアウトVM Extensions Manager では、ロールアウトの速度を設定して、グローバルポリシーの変更を複数のゾーンにわたってどのようにデプロイするかを制御することが可能です。ゾーンポリシーではロールアウト速度を設定できず、VM がオンラインになると瞬時に適用されます。

今後数週間以内に、まず gcloud を介してグローバルポリシーのサポートを拡大し、関連情報をドキュメントに反映する予定です。UI の更新は今後数か月以内に行われます。

プレビュー版では、グローバルポリシーで設定するロールアウト速度として次の 2 つから選択可能です。

SLOW（推奨）: 安全性を重視したデフォルトのオプションです。このオプションでは、Wave 間の組み込みの待ち時間を使用して、ゾーンごとのロールアウト（ポリシーの範囲内）をオーケストレートします。これにより、問題のある変更の潜在的な影響範囲を一定期間（デフォルトでは 5 日間）最小限に抑えます。このオプションは標準的なメンテナンスと更新に最適です。
FAST: このオプションでは、Wave 間の待ち時間がなくなり、ゾーンをまたぐフリート全体で変更が可能な限り迅速に行われます。これは、すべてのゾーンのすべての VM に、非常時特権アクセスを必要とする「ブレークグラス」緊急シナリオで重要なセキュリティパッチをデプロイするなど、緊急のユースケースを対象としています。

ポリシーを保存すると、VM Extensions Manager に処理が引き継がれます。基盤となるプログレッシブロールアウトエンジンによって複雑なオーケストレーションが管理され、その進行状況をモニタリングできます。

標準化と管理のための柔軟なシステム

VM Extensions Manager は、VM フリートの拡張機能を標準化し、制御できるように設計されています。今すぐプロジェクトにゾーンポリシーを適用して、拡張機能が正しいゾーンの VM インスタンスに正しくインストールされるようにしましょう。

Compute Engine VM インスタンスの拡張機能ポリシーの定義を開始するには、ドキュメントを読んで最初のポリシーを作成してください。VM フリートの管理を標準化、保護、簡素化するために VM Extension Manager をご活用いただけますと幸いです。

- プロダクトマネージャー Omkar Suram

- CE ディレクター、北米プラットフォームスペシャリスト Mike Columbus

貴社のインフラストラクチャは AI エージェントに対応していますか？

Wed, 14 Jan 2026 00:10:00 +0000

※この投稿は米国時間 2025 年 12 月 12 日に、Google Cloud blog に投稿されたものの抄訳です。

編集者注: 本日は、AI インフラストラクチャの TCO（総所有コスト）危機とそれに対処する方法について、IDC の Dave McCarthy 氏にお話を伺います。同氏の分析をお読みください。

AI をめぐる状況は劇的に変化しています。ここ数年、業界はリソースを大量に消費する大規模なプロセスである生成 AI モデルのトレーニングに焦点を絞ってきました。しかし現在、焦点はさらに大きな新しい課題である推論へと急速に移行しつつあります。

推論（トレーニング済みモデルを使用してリアルタイムの予測を行うプロセス）は、もはや AI ライフサイクルの一部ではなくなり、急速に主要なワークロードになりつつあります。IDC が最近 1,300 人を超える全世界の AI 意思決定者を対象に実施したアンケート調査では、推論はすでに AI ワークロードの最大のセグメントとして挙げられ、すべての AI オペレーションの 47% を占めていました。

この高い比率は、実世界のアプリケーションの膨大な数によるものです。モデルは定期的にトレーニングされながら、すべてのユーザークエリ、API 呼び出し、おすすめで推論のために休みなく使用されます。また、こうした推論の急増はハイブリッド環境全体に広がっていることを認識する必要があります。IDC のアンケートの回答者によると、ワークロードの 63% はクラウド内に存在します。クラウドは、常にコンテンツ作成や chatbot などのスケーラブルなアプリケーションの標準であり続けます。一方、ワークロードの 37% はオンプレミスインフラストラクチャにデプロイされます。これは通常、ロボット工学や実世界と直接やり取りするその他のシステムのユースケースに関連しています。

現在、この需要を増大させている新たな要因が、自律型および半自律型の AI エージェントの台頭です。

これらの「エージェントワークフロー」は、AI の新たな論理的な進化の現れです。このワークフローでは、モデルは単一のプロンプトに回答するだけでなく、複雑な複数ステップのタスクを実行します。「パリ旅行の計画を立てて」と指示された AI エージェントは、フライトの検索、ホテルの空室状況の確認、レビューの比較、場所の地図表示など、数十もの互いに関連するオペレーションを実行する必要があります。各ステップは推論オペレーションであり、さまざまなシステム間でオーケストレートする必要がある一連のリクエストを作成します。

こうした需要の急増は、多くの組織で重大な脆弱性を露呈させています。それが AI 効率のギャップです。

エージェントの時代の TCO 危機

AI 効率のギャップとは、AI スタックの理論上のパフォーマンスと実世界のパフォーマンス実績の差異です。このギャップが TCO（総所有コスト）危機を招きます。ギャップの原因はシステム全体の非効率性です。

IDC の調査によると、半数以上（54.3%）の組織が複数の AI フレームワークとハードウェアプラットフォームを使用しています。この柔軟性は有益に思えますが、驚くべき短所があり、92% の組織が効率に悪影響を及ぼしたと報告しています。

最適化されていない異種サービスを寄せ集めた断片的な「パッチワーク」アプローチは、次のような問題を波及的に生じさせます。

回答者の 41.6% がコンピューティング費用の増加を報告: 冗長なプロセスと低い利用率が支出を増加させます。
回答者の 40.4% がエンジニアリングの複雑化を報告: チームは、価値の創造よりも断片的なスタックの管理に多くの時間を費やしています。
回答者の 40.0% がレイテンシの増加を報告: システムの一部（ストレージやネットワーキングなど）のボトルネックにより、アプリケーションの全体的なパフォーマンスが低下します。

根本的な問題は、組織が高価で高性能なアクセラレータの料金を支払っているにもかかわらず、それらを十分に活用できていないことです。IDC のデータによると、浪費されている AI 予算全体の 29% は推論に関連しています。この浪費の直接的な原因は、GPU アイドル時間（回答者の 29.4% が報告）とリソースの非効率的な使用（22.3% が報告）です。

多くの場合、高価なアクセラレータがアイドル状態になるのは、低速なストレージシステムからのデータを待機しているか、アプリケーションサーバーが次のリクエストの準備をしているときです。これは、コンポーネントの障害ではなく、システムレベルの障害です。

この障害は、AI エンジンの原動力となるデータマネジメントに存在する大きな課題によってさらに悪化することがよくあります。アンケート回答者がこのギャップの原因として挙げた主な課題が 3 つあります。47.7% は、データ品質とガバナンスの確保に苦労しています。45.6% は、データストレージ管理と関連コストの課題に取り組んでいます。44.1% は、データクリーニングとデータ準備の複雑さとそれらにかかる時間を挙げています。データパイプラインが高速なアクセラレータに追いつかないと、インフラストラクチャ全体の効率が低下します。

ギャップを埋める方法: 断片化したスタックから統合されたシステムへ

AI エージェントの時代に費用対効果の高いスケーリングを実現するには、個々のコンポーネントについて考えるのをやめ、システムレベルの設計に焦点を当てる必要があります。

たとえば、エージェントワークフローには、タイプが異なる次の 2 つのコンピューティング間の緊密な連携が必要です。

汎用コンピューティング: 運用上のバックボーンです。アプリケーションサーバーを実行し、ワークフローのオーケストレーションとデータの事前処理を行い、モデルに関するすべてのロジックを処理します。
専用アクセラレータ: AI モデル自体を実行する高性能なエンジンです。

断片化した環境では、これら 2 つの要素が非効率的に結び付き、レイテンシが急増します。今後取るべき道は、ソフトウェア、ネットワーキング、ストレージ、コンピューティング（汎用と専用の両方）が単一の包括的なシステムとして機能する最適化されたアーキテクチャです。

この総合的なアプローチは、AI の TCO を管理する唯一のサステナブルな方法です。このアプローチでは、目標を再定義して、単に高速なアクセラレータを購入することから、エンドツーエンドのワークフロー全体の「費用対効果」と「ユニットエコノミクス」を改善することに切り替えます。組織は、ボトルネックを解消し、すべてのリソースの利用率を最大化して初めて、効率のギャップを埋めることができます。この成果を達成するために、組織は積極的に戦略を移行しています。IDC のアンケート調査によると、回答者の 28.9% はモデル最適化手法に優先的に取り組んでおり、26.3% は AI サービスプロバイダとの提携によってこの複雑な移行を乗り切ろうとしています。さらに、25% はチームのスキルアップのためのトレーニングに投資し、AI 投資の価値を高めようとしています。

推論の時代がすでに到来し、その後にエージェントの時代が迫っています。イノベーションの次の波に乗るのは、最も強力なアクセラレータを持つ組織ではなく、効率と統合レベルと費用対効果が最も高いシステムを構築してアクセラレータを強化できる組織でしょう。

Google Cloud からのメッセージ

Google Cloud は、IT リーダーが「推論の時代」への重要な移行を乗り切るお手伝いをするために、この IDC の調査をスポンサーとして後援しました。Google Cloud は、この投稿で取り上げられている「効率のギャップ」（断片化したスタックとアイドル状態のリソースによって生じるギャップ）がサステナブルな費用対効果の主な障壁であることを認識しています。それゆえに、Google は AI Hypercomputer を作成しました。これは、要求の厳しい AI ワークロードで優れたパフォーマンスと効率性を実現できるように設計された統合スーパーコンピュータシステムです。

IDC は、全世界の IT リーダー 1,300 人を対象にアンケート調査を実施し、効率と費用対効果を最大化するために AI スタックをどのように設計しているかを明らかにしました。詳しくは、ホワイトペーパー「The AI Efficiency Gap: From TCO Crisis to Optimized Cost and Performance」（AI 効率のギャップ: TCO 危機を乗り越えてコストとパフォーマンスを最適化）を無料でダウンロードしてご覧ください。

-IDC、クラウドおよびエッジインフラストラクチャサービス、調査担当バイスプレジデント、Dave McCarthy 氏

Cluster Director による AI および HPC クラスタ自動化の一般提供を開始

Thu, 25 Dec 2025 02:00:00 +0000

※この投稿は米国時間 2025 年 12 月 18 日に、Google Cloud blog に投稿されたものの抄訳です。

AI トレーニングワークロードとハイパフォーマンスコンピューティング（HPC）ワークロードを支えるインフラストラクチャの複雑さは、チームの作業ペースを低下させる可能性があります。Google Cloud において、世界最大規模の AI 研究チームとの共同作業を重ねる中で、あらゆる場面でそのような状況を目にしています。たとえば、複雑な構成ファイルという障壁にぶつかっている研究者、自社開発スクリプトによる GPU の管理に苦労しているプラットフォームチーム、数週間に及ぶトレーニング実行を阻む予測不能なハードウェア障害に絶えず奮闘している運用管理者などです。物理的なコンピューティングの利用だけでは十分ではありません。最先端の技術を利用するには、ハードウェア障害を克服する信頼性、トポロジを尊重するオーケストレーション、拡大するニーズに適応するライフサイクル管理戦略が必要です。

このたび Google Cloud は、このような要求に応えるべく、Cluster Director の一般提供（GA）を開始し、Cluster Director サポートのプレビュー版（Google Kubernetes Engine（GKE）上の Slurm 向け）をリリースしました。

Cluster Director（GA）は、最新のスーパーコンピューティングの厳しい要件を満たせるように設計されたマネージドインフラストラクチャサービスです。脆弱な DIY ツールの代わりに、トポロジを考慮した堅牢なコントロールプレーンを使用することで、最初のデプロイから 1,000 回目のトレーニング実行に至る Slurm クラスタのライフサイクル全体を処理します。
Google Cloud は、Cluster Director をさらに拡張して、GKE 上の Slurm のサポート（プレビュー版）を提供します。これにより、お客様は高パフォーマンススケジューリングの慣れ親しんだ精度と Kubernetes の自動スケーリングという 2 つの強みを最大限に利用できます。これは、GKE ノードプールを Slurm クラスタの直接的なコンピューティングリソースとして扱い、既存の Slurm ワークフローを変更せずに Kubernetes のパワーでワークロードをスケーリングできるようにすることで実現されます。

Cluster Director の一般提供を開始

Cluster Director は、クラスタライフサイクルの各フェーズで高度な機能を提供します。フェーズには、インフラストラクチャの設計とキャパシティを決定する準備作業（0 日目）、クラスタが自動的にデプロイおよび構成されるデプロイ（1 日目）、パフォーマンス、ヘルス、最適化が継続的にトラッキングされるモニタリング（2 日目）があります。

この包括的なアプローチにより、お客様は詳細な構成が可能なインフラストラクチャのメリットを享受しながら、下位レベルのオペレーションを自動化して、コンピューティングリソースが常に最適化され、信頼性と可用性が確保されている状態を維持できます。

では、これらすべてにかかる費用はどれくらいになるでしょうか？最大のメリットはそこにあります。Cluster Director の使用に追加料金はかかりません。料金は、基盤となる Google Cloud リソース（コンピューティング、ストレージ、ネットワーキング）に対してのみ発生します。

Cluster Director によるデプロイの各フェーズのサポート

0 日目: 準備

通常、クラスタの立ち上げには数週間にわたるプランニング、Terraform のラングリング、ネットワークのデバッグが必要です。Cluster Director は、ワークロード要件に合わせて最適化されたインフラストラクチャトポロジを設計するツールを備えており、「0 日目」の体験を完全に様変わりさせます。

Cluster Director は、0 日目のセットアップを効率化するため、以下を提供します。

リファレンスアーキテクチャ: Google の社内ベストプラクティスを再利用可能なクラスタテンプレートに体系化し、標準化された検証済みのクラスタを数分でスピンアップできるようにしました。これにより、組織内のすべてのチームが同じセキュリティ基準をデプロイに使用し、デフォルトで正しく構成されるインフラストラクチャ上で、ネットワークトポロジやストレージのマウントにデプロイできるようになります。
ガイド付き構成: よく知られているように、オプションが多すぎると構成の停滞を招くことがあります。Cluster Director のコントロールプレーンは、効率化されたセットアップフローを通してお客様をガイドします。お客様がリソースを選択すると、システムによって複雑なバックエンドマッピングが処理されます。これにより、デプロイに先立ってストレージ階層、ネットワークファブリック、コンピューティングシェイプの互換性が確保され、最適化されます。
広範なハードウェアサポート: Cluster Director は、大規模 AI システム向けのフルサポートを提供します。これには、NVIDIA GB200 および GB300 GPU を搭載した Google Cloud の A4X および A4X Max VM や、費用対効果の高いログインノードとデバッグパーティションに適した N2 VM などの多目的 CPU が含まれます。
柔軟な使用オプション: Cluster Director は、重要なトレーニング実行時のキャパシティを確保する予約機能、動的スケーリング用の Dynamic Workload Scheduler Flex-start、低コストの随時実行に適した Spot VM をサポートしており、お客様が希望する調達戦略に合わせて柔軟に調整できます。

「Google Cloud の Cluster Director は、大規模な AI と HPC の環境を管理できるように最適化されており、NVIDIA の高速コンピューティングプラットフォームのパワーとパフォーマンスを補完する役割を果たします。私たちは互いに協力して、次世代のコンピューティングの課題に対処できる簡素化された強力でスケーラブルなソリューションをお客様に提供します。」- NVIDIA、高速コンピューティングプロダクト担当ディレクター、Dave Salvator 氏

1 日目: デプロイ

ハードウェアのデプロイとパフォーマンスの最大化はまったく別物です。1 日目は実行フェーズであり、お客様の構成が完全に動作するクラスタに変換されます。素晴らしいことに、Cluster Director は VM をプロビジョニングするだけでなく、ソフトウェアとハードウェアのコンポーネントが健全な状態にあり、適切にネットワーク化され、最初のワークロードを受け入れる準備ができているかどうかを検証します。

Cluster Director は、高パフォーマンスのデプロイを保証するために、以下を自動化します。

健全性の証明: Cluster Director は、ジョブが GPU に到達する前に、DCGMI 診断や NCCL パフォーマンス検証などの厳格なヘルスチェックスイートを実行し、ネットワーク、ストレージ、アクセラレータの完全性を検証します。
アクセラレータへの継続的なデータ供給: ストレージスループットは、しばしばトレーニング効率を低下させる隠れた要因となります。そのため、Cluster Director はパフォーマンス階層の選択が可能な Google Cloud Managed Lustre を完全にサポートしています。高スループットの並列ストレージをコンピューティングノードに直接接続できるため、GPU がデータ不足になることはありません。
相互接続のパフォーマンスの最大化: スケーリングを最大化するため、Cluster Director はトポロジを考慮したスケジューリングとコンパクトプレースメントポリシーを実装します。システムは、Google のノンブロッキングファブリックで高密度の予約を利用することによって、分散ワークロードを可能な限り最短の物理パスに配置し、テールレイテンシを最小限に抑え、最初から集団通信（NCCL）の速度を最大化します。

2 日目: モニタリング

現実の AI / HPC インフラストラクチャでは、ハードウェアの障害や要件の変更が発生します。柔軟性を欠くクラスタは非効率的です。継続的な「2 日目」の運用フェーズに移行したら、クラスタの健全性を維持し、利用率とパフォーマンスを最大化する必要があります。Cluster Director は、長期的な運用の複雑さに対応できるコントロールプレーンを備えています。このたび導入したのは、2 日目の運用の煩雑な現実に対処できる新しいアクティブクラスタ管理機能です。

新しいアクティブクラスタ管理機能には、以下が含まれます。

トポロジレベルの可視性: 目に見えないものはオーケストレートできません。Cluster Director のオブザーバビリティグラフとトポロジグリッドを使用すると、フリート全体を可視化し、サーマルスロットリングや相互接続に関する問題を特定して、物理的な近接性に基づいてジョブの配置を最適化できます。
ワンクリック修復: ノードが劣化したときに、SSH で接続してデバッグする必要がなくなります。Cluster Director を使用すると、ワンクリックで Google Cloud コンソールから直接、障害が発生したノードを交換できます。システムによってドレイン、破棄、交換が処理され、数分でクラスタが最大キャパシティに戻されます。
適応型インフラストラクチャ: 研究のニーズに変更があったときは、クラスタも変更する必要があります。今後は、アクティブなクラスタを変更できます。つまり、クラスタを破棄したり進行中の作業を中断したりすることなく、ストレージファイルシステムの追加や削除などのアクティビティを即座に行えます。

GKE 上の Slurm 向け Cluster Director サポートのプレビュー版をリリース

イノベーションはオープンな環境で発展します。Kubernetes を構築した Google と、Slurm の開発をバックアップした SchedMD は、世界最先端のコンピューティングを支えるオープンソーステクノロジーを長きにわたって支持してきました。この数年間、NVIDIA と SchedMD は緊密に連携して GPU スケジューリングの最適化に取り組んでいます。その結果、最新の AI に不可欠な基本機能である汎用リソース（GRES）フレームワークやマルチインスタンス GPU（MIG）などのサポートが提供されるようになりました。NVIDIA は SchedMD の買収を通じて、Slurm をベンダーに依存しない標準として発展させる取り組みを強化しました。これは、世界最速のスーパーコンピュータを支えるソフトウェアがオープンかつ高パフォーマンスであり続け、未来の高速コンピューティングに向けて完璧に調整されることを保証するものです。

Google は、この高速コンピューティングの土台に立って、SchedMD との連携を深めつつ、いかにしてクラウドネイティブオーケストレーションと高パフォーマンススケジューリングのギャップを埋めるかという業界の根本的な課題を解決しようとしています。このたび、SchedMD の Slinky サービスを利用した、GKE 上の Slurm 向け Cluster Director サポートのプレビュー版のリリースをお知らせできるのは、Google Cloud にとって大きな喜びです。

このイニシアチブは、インフラストラクチャの世界の 2 つの標準を統合するものです。GKE 上でネイティブ Slurm クラスタを直接実行することで、両方のコミュニティの強みを増幅できます。

研究者の皆様は、sbatch や squeue など、数十年にわたって HPC を定義してきた妥協のない Slurm のインターフェースとバッチ機能を利用できます。
プラットフォームチームの皆様は、自動スケーリング、自己回復、ビンパッキングの機能を備えた GKE がもたらす運用のベロシティを利用できます。

GKE 上の Slurm は、Google と SchedMD の長きにわたるパートナーシップによって強化されており、次世代の AI および HPC ワークロード向けのオープンで強力な統合基盤の構築に役立ちます。今すぐプレビュー版へのアクセスをリクエストしましょう。

今すぐ Cluster Director をお試しください

Cluster Director を使用して AI および HPC クラスタの自動化を開始する準備はできましたか？

エンドツーエンドの機能について詳しくは、ドキュメントをご覧ください。
コンソールで Cluster Director を有効化してください。

-Google Cloud、Cluster Director 担当シニアプロダクトマネージャー、Ilias Katsardis

-Google Cloud、AI インフラストラクチャ担当グループプロダクトマネージャー、Jason Monden

「The Forrester Wave™: AI Infrastructure Solutions, Q4 2025」で Google がリーダーに

Wed, 24 Dec 2025 02:00:00 +0000

※この投稿は米国時間 2025 年 12 月 18 日に、Google Cloud blog に投稿されたものの抄訳です。

使用するかどうかはもはや問題ではなく、有望なプロトタイプからビジネス成果を促進する本番環境グレードのサービスにどのようにスケーリングするかが問題になっています。推論の時代において、競争優位性は、世界中のユーザーに役立つ情報を可能な限り低いコストで提供する能力によって決まります。デモから大規模な本番環境へのデプロイに移行する際には、最新の AI ソフトウェアとアクセラレータハードウェアのプラットフォームを提供する統合システムを使用して、インフラストラクチャの運用を簡素化するとともに、費用とアーキテクチャの複雑性を低く抑える必要があります。

先日、Forrester は、13 社のベンダーを評価した The Forrester Wave™: AI Infrastructure Solutions, Q4 2025 レポートを公開しました。Google は、このレポートの調査結果を通じて、こうした主要な課題を解決するという Google の取り組みが認められたと考えています。Google は、「現在のサービス」カテゴリにおいて全ベンダーの中で最高スコアを獲得し、ビジョン、アーキテクチャ、トレーニング、推論、効率性、セキュリティなど、19 の評価基準のうち 16 の基準で最高スコアを記録しました。

レポート全文はこちら: The Forrester Wave™: AI Infrastructure Solutions, Q4 2025

統合システムで価値創出までの時間を短縮

企業は AI を単独で運用するわけではありません。厳格なセキュリティプロトコルを遵守しつつ、さまざまなアプリケーションやデータベースと統合する必要があります。Forrester は、効率性とスケーラビリティの評価基準で Google に最高スコアを付け、Google Cloud の共同設計戦略を評価しました。

「Google は、シリコンとインフラストラクチャの共同設計戦略を追求し、推論効率を向上させる TPU と、より幅広いエコシステムとの互換性を実現する NVIDIA GPU を開発しています。TPU がネットワーキングファブリックと緊密に統合されるように設計することで、大規模な推論で高帯域幅と低レイテンシを実現できます。」

Google は 20 年以上にわたり、Google 検索、YouTube、マップなど、世界最大規模のサービスを運用してきました。これらのサービスは前例のない規模であるため、これまで解決されたことのない問題を解決する必要がありました。必要なプラットフォームとインフラストラクチャを単純に購入することはできず、自社での開発が必要でした。ここから 10 年にわたるシステムレベルの綿密な共同設計の取り組みが始まり、カスタムネットワークファブリックと特別なアクセラレータから最先端のモデルまで、すべてが 1 か所で構築されました。

その結果、統合型スーパーコンピューティングシステムである AI Hypercomputer が誕生し、お客様に大きなメリットをもたらしています。幅広い AI 最適化ハードウェアをサポートしており、スループットの向上、レイテンシの短縮、結果出力までの時間の短縮、TCO の削減など、ワークロードレベルの詳細な目標に合わせて最適化できます。つまりお客様は、Google のカスタム Tensor Processing Unit（TPU）、最新の NVIDIA GPU、またはその両方を使用できます。アクセラレータとネットワーキング、ストレージを緊密に統合したシステムが基盤となり、優れたパフォーマンスと効率性を実現します。Anthropic、Lightricks、LG AI Research などの大手生成 AI 企業が、要求の厳しい AI ワークロードの実行に Google Cloud を使用しているのもそのためです¹。

システムレベルの統合は高速処理の基盤となりますが、運用が複雑になり速度が低下する可能性はあります。製品化までの時間を短縮するために、Google は AI インフラストラクチャをデプロイして管理する複数の方法を提供し、希望のワークフローを問わず、面倒な作業を抽象化します。Google Kubernetes Engine（GKE）Autopilot を通じて、コンテナ化されたアプリケーションの管理を自動化し、LiveX.AI のようなお客様が運用コストを 66% 削減できるよう支援します。同様に、Cluster Director によって Slurm ベース環境のデプロイを簡素化し、LG AI Research のようなお客様がセットアップ時間を 10 日から 1 日未満に短縮できるようにします。

AI の費用と複雑さの管理

Forrester は、料金の柔軟性と透明性の評価基準で Google Cloud に最高スコアを付けました。コンピューティングの価格は、AI インフラストラクチャの費用を算出するための要素の一つにすぎません。全体像を把握するには、開発費用、ダウンタイム、リソースの非効率的な使用も考慮する必要があります。Google は、スタックの各レイヤで選択肢を提供し、企業が求める柔軟性を実現します。

柔軟な利用モデル: Dynamic Workload Scheduler を使用することで、必要なときに必要な容量だけ購入できるため、コンピューティング費用を最大 50% 削減できます。
ロードバランシング: GKE Inference Gateway は、AI 対応ルーティングを使用して各モデルにリクエストを分散することでスループットを向上させます。また、ボトルネックを防止し、サーバーがアイドル状態にならないようにします。
データボトルネックの解消: Anywhere Cache は、コンピューティングと同じ場所にデータを配置することで、読み取りレイテンシを最大 96% 削減し、データの移動によって生じる「統合に伴う負担」を排除します。Anywhere Cache を統合データプラットフォームの BigQuery と併用することで、アクセラレータにデータを供給しつつ、レイテンシと下り（外向き）料金の発生を回避できます。

柔軟性と選択肢による戦略的リスクの軽減

Google は、アクセラレータ、フレームワーク、マルチクラウド環境全体でお客様に選択肢を提供することにも尽力しています。これは Google にとって新しい取り組みではありません。Google は、Kubernetes の開発とオープンソース化を通じて得た豊富な経験から、オープンエコシステムがイノベーションへの近道であり、お客様に最大限の柔軟性を提供できるということを学びました。AI の時代においても、お客様がすでに使用しているツールに積極的に貢献することで、同じ考え方を実践しています。

オープンソースフレームワークとハードウェアのポータビリティ: PyTorch、JAX、Keras などのオープンフレームワークは引き続きサポートされています。また、カスタムシリコンでのワークロードのポータビリティに関する懸念に直接対処するため、vLLM の TPU サポートに投資しました。これにより、デベロッパーは最小限の構成変更だけで TPU と GPU を簡単に切り替える（または両方を使用する）ことができます。
ハイブリッドとマルチクラウドの柔軟性: Google は、アプリケーションの実行場所についても選択肢の提供に取り組んでいます。Google Distributed Cloud は、Google のサービスをオンプレミス、エッジ、クラウドのロケーションに提供します。一方、クロスクラウドネットワークは、お客様の環境と他のクラウド間の高速接続により、アプリケーションとユーザーを安全に接続します。この強力な組み合わせにより、特定の環境に縛られることがなくなります。ワークロードを簡単に移行して統一された管理手法を適用することで、運用を合理化し、ロックインのリスクを軽減できます。

信頼できるシステム

ビジネスモデル全体が AI サービスの可用性に依存している場合、インフラストラクチャの稼働時間は非常に重要です。Google Cloud のグローバルインフラストラクチャは、エンタープライズグレードの信頼性を実現するように設計されています。このアプローチは、サイト信頼性エンジニアリング（SRE）の提唱を始めた Google の歴史に根ざしています。

Google は、世界最大級のプライベートなソフトウェア定義ネットワークを運用しており、世界全体のインターネット下り（外向き）トラフィックの約 25% を処理しています。公共のインターネットに依存するプロバイダとは異なり、Google 独自のファイバーでトラフィックを維持し、速度、信頼性、レイテンシを向上させています。このグローバルバックボーンは、13 ペタビット/秒の帯域幅にスケールする Jupiter データセンターファブリックによって支えられ、前世代よりも 50 倍高い信頼性を実現しています。他のプロバイダと比較すると、その差はさらに大きくなります。最後に、クラスタレベルのフォールトトレランスを向上させるために、弾力性のあるトレーニングや多層チェックポインティングなどの機能を採用しています。これにより、復旧までの時間を最小限に抑えながらも、障害が発生したノードの周辺でクラスタのサイズを動的に変更することで、ジョブを中断することなく続行できます。

構築に安全な基盤

Google のアプローチは、AI を総合的に保護することです。実際、Google Cloud はクラウドセキュリティにおいて業界をリードする実績を維持しています。cloudvulndb.org の独自分析（2024～2025 年）によると、Google のプラットフォームでは、他の 2 つの主要クラウドプロバイダと比較して、重大度「重大」および「高」の脆弱性が最大 70% 低いことが示されています。また、Google は業界で初めて AI / ML Privacy Commitment を公表しました。この取り組みは、Google がお客様のデータを自社のモデルのトレーニングに使用しないことを保証するものです。こうした安全保護対策が講じられているため、Google Cloud の基盤には、Google のサービスを保護するゼロトラストの原則に基づいたセキュリティが組み込まれています。

ハードウェアのルートオブトラスト: Google のカスタム Titan チップは、Titanium アーキテクチャの一部として、検証可能なハードウェアのルートオブトラストを確立します。Google は最近、プライベート AI コンピューティング向けの Titanium Intelligence Enclaves でこれを拡張し、強化かつ分離された暗号化環境で機密データを処理できるようにしました。
組み込みの AI セキュリティ: Security Command Center（SCC）は Google のインフラストラクチャとネイティブに統合されており、アセットの自動検出、セキュリティ問題の防止、最前線の Google Threat Intelligence によるアクティブな脅威の検出を実施し、攻撃者に悪用される前に既知および未知のリスクを検出することで、AI 保護を提供します。
主権ソリューション: データ境界などのソリューションを通じて、お客様が厳格なデータ所在地、運用管理、ソフトウェア主権の要件を満たせるようにします。これに加えて、パートナーが運用する主権管理や、エアギャップのニーズに対応する Google Distributed Cloud などの柔軟なオプションも用意されています。
AI とエージェントのガバナンスのためのプラットフォーム制御: Vertex AI は、企業向けビルダーでモデルやエージェントを大規模にデプロイするために不可欠なガバナンスレイヤを提供します。この信頼は、Google Cloud のデフォルトで保護されたインフラストラクチャに根ざしており、VPC Service Controls（VPC-SC）や顧客管理の暗号鍵（CMEK）などのプラットフォーム制御を使用して環境をサンドボックス化し、機密データを保護します。また、エージェント ID を使用して IAM 権限を細かく管理します。プラットフォームレベルでは、Vertex AI と Agent Builder に Model Armor が統合されており、プロンプトインジェクションやデータの引き出しといったエージェントの新たな脅威に対するランタイム保護を提供します。

継続的な AI イノベーションの実現

光栄なことに、Google は「The Forrester Wave™」レポートでリーダーとして評価されました。数十年にわたる研究開発と、超大規模 AI インフラストラクチャの構築に対する Google のアプローチが認められたのだと考えています。AI の可能性の実現を支援すべく、システムレベルのイノベーションを今後も推進していきます。

レポート全文はこちら: The Forrester Wave™: AI Infrastructure Solutions, Q4 2025

^{1. IDC によるビジネス価値に関するスナップショット（Google Cloud が委託）「The Business Value of Google Cloud AI Hypercomputer」、US53855425、2025 年 10 月}

-AI およびコンピューティングインフラストラクチャ担当バイスプレジデント兼ゼネラルマネージャー Mark Lohmeyer

-Cloud AI 担当バイスプレジデント兼ゼネラルマネージャー Saurabh Tiwary

N4D の一般提供を開始: スケールアウト型ワークロードのコストパフォーマンスが最大 3.5 倍に

Mon, 08 Dec 2025 00:10:00 +0000

※この投稿は米国時間 2025 年 11 月 11 日に、Google Cloud blog に投稿されたものの抄訳です。

競争が激しい昨今の環境において、IT リーダーは、アプリケーションのスケールをサポートし、より多くの機能を展開し、高い水準のカスタマーエクスペリエンスを実現するという課題に直面しています。これにより、日常のビジネスオペレーションを支える汎用ワークロードのパフォーマンスと総所有コスト（TCO）の適切なバランスを見つけるという、直接的で複雑な課題が生じます。

このたび、Google Compute Engine の費用最適化された汎用ポートフォリオに新たに加わった N4D マシンシリーズの一般提供が開始されました。N4D は、ウェブサーバーやアプリケーションサーバー、データ分析プラットフォーム、コンテナ化されたマイクロサービスなど、幅広いワークロードに対応する、柔軟で費用対効果の高いソリューションです。

N4D マシンシリーズは、Google の Titanium インフラストラクチャと第 5 世代 AMD EPYC™「Turin」プロセッサを組み合わせたもので、前世代の N2D と比較して、ウェブサービスワークロードのスループットが最大 3.5 倍になります。N4D は、最大 96 個の vCPU と 768 GB の DDR5 メモリ、最大 50 Gbps のネットワーキング帯域幅、Hyperdisk のバランスストレージとスループットストレージを備えた事前定義シェイプを提供します。N4D では、コンピューティングとストレージの両方で、厳格なインスタンスサイズ設定から脱却できます。カスタムマシンタイプを使用して、vCPU の数とメモリ量を正確に個別に構成し、Hyperdisk を使用してディスクストレージのパフォーマンスと容量を調整できます。これにより、コスト削減を総合的に実現できます。最も要求の厳しい汎用ワークロードには、C4D の一貫して高いパフォーマンスに N4D を組み合わせてお使いください。

Google Cloud は、ワークロードに最適化されたインフラストラクチャを提供し、あらゆるタスクに適切なリソースを利用できるようにします。特に、マルチティアオフロードとセキュリティ機能を備えた Titanium は、そのインフラストラクチャの基盤となっています。Titanium はネットワーキングとストレージの処理をオフロードして CPU を解放し、専用の SmartNIC がすべての I/O を管理するため、AMD EPYC コアをアプリケーション専用に確保できます。Titanium は、Google Cloud の垂直統合型スタックの一部です。このスタックは、サーバーのカスタムシリコンから、42 のリージョンにわたって 775 万キロメートルの陸上および海底ファイバーを横断する地球規模のネットワークまで、効率を最大化し、超低レイテンシと高帯域幅を世界規模でお客様に提供するように設計されています。

コストパフォーマンスの新たな基準

N4D マシンシリーズは、前世代の N2D を上回るだけでなく、汎用コンピューティングワークロードで最大 50% 高い費用対効果、Java ワークロードで最大 70% 高い費用対効果 を実現しています。ウェブサービスワークロードの場合、N4D は Titanium と AMD の Turin プロセッサを活用して、驚異的なスループットを実現します。これにより、N2D と比較して最大 3.5 倍の費用対効果が得られ、応答時間が短縮され、エンドユーザーのエクスペリエンス全体が向上します。

2025 年 10 月時点パフォーマンスは、本番環境で実行された SPECrate®2017_int_base、SPECjbb2015、Google 内部 Nginx リバースプロキシベンチマークの推定スコアに基づく。Google Cloud の公開されている正規料金と推定正規料金に基づく費用対効果に関する主張。

「エッジプロキシフリートと社内データパイプラインでは、Google Cloud の N4D インスタンスは N2D と比較して パフォーマンスが 3 ～ 4 倍向上しました。また、当社のベンチマークでは、N4D は同じワークロードを処理する際に、CPU 使用率がごくわずかであるにもかかわらず、一貫性が大幅に向上しています。この価格パフォーマンスの飛躍により、汎用ワークロードを効率的にスケーリングできるようになり、当社が活用しているより具体的な Google コンピューティングプロダクトと並んで、フリートにぴったりと収まります。」 - Chronosphere、技術スタッフメンバー、Matt Schallert 氏

「 スループットが 10% 向上し、費用が最大 50%削減 されたことは、TCO の最適化において大きな成果です。Google Cloud の N4D マシンシリーズで実現したのがまさにそれです。MediaGo にとって、この効率性は非常に重要です。これにより、AI を活用した広告プラットフォームをより費用対効果の高い方法でスケールできるようになり、グローバルパートナーの ROI を最大化するという当社のミッションを直接的にサポートしています。」- MediaGo

「N2D から N4D への移行は、世代を大きく飛躍させるものです。 152 件のテストで 144.14% のパフォーマンス向上は、Google の Titanium が新しい AMD EPYC「Turin」プロセッサの可能性を最大限に引き出したことを証明しています。Google Cloud で最高の費用対効果を求めるお客様にとって、N4D インスタンスは明らかに最良の選択肢です。」- Phoronix、創設者 / 主執筆者、Michael Larabel 氏（調査の全文はこちらをご覧ください）

「新しい N4D インスタンスのリリースにより、Google Cloud は 第 5 世代 AMD EPYC プロセッサをベースとした最も包括的なポートフォリオを提供できるようになり、戦略的パートナーシップにおける重要なマイルストーンを達成しました。N4D マシンシリーズは、AMD CPU の優れたパフォーマンスと Google のカスタムマシンタイプの独自性を組み合わせることで、日常的なワークロードの費用対効果、柔軟性、費用最適化を大幅に向上させます。Google のベンチマークテストでこのことが確認されており、メディアのエンコードとトランスコードのワークロードでは、前世代の N2D マシンシリーズと比較して、パフォーマンスが最大 75% 向上しています。」- AMD、クラウドビジネスグループ担当シニアディレクター Ryan Rodman 氏

C4D マシンシリーズを補完

今年初めには、N4D と同じ基盤プロセッサ上に構築された汎用 C4D マシンシリーズを導入しました。一貫して高いパフォーマンスと、高度なメンテナンスサポート、より大きなシェイプ、次世代の Titanium ローカル SSD などのエンタープライズ機能を備えた C4D は、重要なワークロードに最適です。実際、Silk や Chess.com などのお客様は、前世代と比較して C4D で 40% 以上のパフォーマンス向上を報告しています。

しかし、重要なアプリケーションは、全体像の一部にすぎません。最新のクラウドアーキテクチャでは、柔軟性と費用対効果が重要な無数の汎用ワークロードも実行する必要があります。そのため、C4D を補完するものとして N4D を設計しました。C4D と N4D を併用することで、エンタープライズ機能、パフォーマンス、柔軟性、費用最適化の全範囲が利用可能になり、以下を選択できます。

C4D で一貫したパフォーマンスを実現: これは、最も要求が厳しく、レイテンシの影響を受けやすいアプリケーション向けのソリューションです。最大 200 Gbps のネットワーキング、ローカル SSD のサポート、最大 384 個の vCPU を備えた大型シェイプ、ベアメタルオプションにより、C4D は大規模データベース、高トラフィックの広告サーバーとゲームサーバー、要求の厳しい AI/ML 推論ワークロードに対して、予測可能なハイエンドのパフォーマンスを提供します。
N4D で柔軟な費用最適化: これは、汎用ワークロードの大部分を処理するエンジンです。N4D は、優れた費用対効果、低コスト、柔軟性を備えており、ウェブサーバー、マイクロサービス、開発環境などのアプリケーションの TCO を大幅に削減できます。

このアプローチはすでに実際の成果を上げており、Verve のようなお客様はビジネスを両面から最適化できるようになっています。

「Google の第 4 世代 AMD ポートフォリオにより、収益と費用の両方を同時に最適化できます。C4D は、コア広告サーバーに必要な一貫したピークパフォーマンスを提供します 。C3D より 81% 高速で、これにより、フィルレート（入札とリクエストのマッチングの成功）が向上し、収益が直接的に増加します。一方、 N4D は、GKE を使用したスケールアウトマイクロサービスなどの日常的なワークロードにおいて、N2D の 2 倍のパフォーマンスと費用対効果を実現し、全体的な TCO を削減しながら成長を可能にしています。この「Better Together」戦略により、ミッションクリティカルなサービスには C4D の一貫したピークパフォーマンスを使用し、柔軟で費用対効果の高い N4D を他のすべての場所で使用して TCO を積極的に削減できます。これは、他の場所で単一の VM タイプを使用するだけでは不可能なレベルの最適化です。」- Verve、プリンシパルシステムエンジニア、Pablo Loschi 氏

カスタムマシンタイプと Hyperdisk の利点

カスタムマシンタイプは、Google Cloud の重要な差別化要因であり、事前定義された「標準サイズ」を超えた構成が可能です。ワークロードを無理やり枠に押し込むのではなく、ワークロードのニーズに合わせてインフラストラクチャを調整できるため、費用を節約できます。たとえば、16 個の vCPU と 70 GB の RAM を必要とするメモリ集約型のワークロードは、通常、事前定義された N4D-highmem-16 シェイプに配置されるため、未使用のリソースに対して料金を支払うことになります。CMT を使用すると、正確に 16 vCPU と 70 GB の構成をプロビジョニングできるため、無駄をなくし、最大 17% の費用削減を実現できます。

最大 96 個の vCPU と 768 GB の DDR5 メモリを備えたシェイプで、カスタムマシンタイプと N4D を組み合わせることで、柔軟な vCPU 対メモリ比と拡張メモリのサポートにより、必要なリソースを正確に調整できます。

「Symbotic のビジョンは、規模と効率性を重視して構築された AI 搭載のロボットプラットフォームでグローバルサプライチェーンに革命を起こすことです。そのためには、強力でスケーラブルなインフラストラクチャが必要です。AMD の最新の EPYC プロセッサを搭載した Google Cloud の N4D VM は、まさにそれを実現しました。以前の N2D 世代と比較して パフォーマンスが 40% も大幅に向上 したため、シミュレーションの速度や忠実度を変えることなく、 CPU フットプリントを半分に 削減できました。これらのメリットをカスタムマシンタイプと組み合わせることができる （Google Cloud 独自の機能）ことは、大きな変革をもたらします。これにより、 ワークロードに合わせてインフラストラクチャを正確に構築 し、他のクラウドサービスと比較して TCO を大幅に削減できます。」- Symbotic、（CIO）最高情報責任者、Dan Inbar 氏

このきめ細かい制御と TCO のメリットは、コンピューティングだけでなくストレージにも及びます。カスタムマシンタイプで固定された vCPU とメモリの比率から解放されるのと同様に、Hyperdisk ではストレージのパフォーマンスと容量が分離されるため、容量とパフォーマンスを個別に調整して、ワークロードのブロックストレージ要件に正確に合わせることができます。

Hyperdisk Balanced ボリュームの Hyperdisk ストレージプールにより、この機能がさらに強化されています。これにより、各ボリュームを個別に管理するのではなく、パフォーマンスと容量をまとめてプロビジョニングできます。その結果、管理が簡素化され、効率が向上し、SAN ワークロードのモダナイズが容易になります。これらすべてが、ストレージの TCO を 30 ～ 50% 削減するのに役立ちます。

N4D を今すぐ利用開始

最新の N4D VM シリーズの導入は簡単です。特に、Google Kubernetes Engine（GKE）では、カスタムコンピューティングクラスによって、ワークロードを新しいハードウェアに移行する際の運用上のハードルが解消されます。VM タイプの優先順位付きリストに N4D を追加するだけで、ワークロードに必要なパフォーマンスとスケーリングの柔軟性を確保できます。N4D は現在、us-central1（アイオワ）、us-east1（サウスカロライナ）、us-west1（オレゴン）、us-west4（ラスベガス）、europe-west1（ベルギー）、europe-west4（オランダ）でご利用いただけます。

最新の提供状況については、リージョンとゾーンのページをご確認のうえ、Google Cloud コンソールまたは GKE から最初のインスタンスを今すぐデプロイしてみてください。N4D の詳細については、ドキュメントをご覧ください。

1. 9xx5C-044 - 2025 年 10 月 21 日時点の AMD パフォーマンスラボによるテスト。N4D-standard-16 のスコアと、Ubuntu24.04LTS OS（6.8.0-1021-gcp カーネル、SMT オン）で FFmpeg v6.1.1 ベンチマーク（エンコード 2 回とトランスコード 2 回の平均）を実行した N2D-standard-16 のスコアの比較。

パフォーマンスの向上（N2D に正規化）:

Ffmpeg_raw_vp9 1.76Ffmpeg_h264_vp9 1.76Ffmpeg_raw_h264 1.71Ffmpeg_vp9_h264 1.76FFmpeg 平均 1.75

提示されているクラウドのパフォーマンス結果は、各構成のテスト日に基づいています。結果は、基盤となる構成の変更や、VM とそのリソースの配置、クラウドサービスプロバイダによる最適化、アクセスされたクラウドリージョン、テナント、システムで同時に実行された他のワークロードのタイプなどの他の条件によって異なる場合があります。

-プロダクトマネージャー、Sarthak Sharma

Axion C4A メタルを発表: 特殊なユースケース向けの Arm ベースの Axion インスタンス

Tue, 25 Nov 2025 01:00:00 +0000

※この投稿は米国時間 2025 年 11 月 7 日に、Google Cloud blog に投稿されたものの抄訳です。

このたび、Google Axion プロセッサで実行される初のベアメタルインスタンスである C4A メタルが、まもなくプレビュー版として提供されることをお知らせいたします。C4A メタルは、ハードウェアへの直接アクセスと Arm® ネイティブの適合性を必要とする特殊なワークロード向けに設計されています。

Android 開発、自動車シミュレーション、CI/CD パイプライン、セキュリティワークロード、カスタムハイパーバイザなどの環境を実行している組織は、ネストされた仮想化のパフォーマンスオーバーヘッドや複雑さを気にすることなく、Google Cloud でこれらの環境を実行できるようになりました。

他の Axion インスタンスと同様に、C4A メタルインスタンスは標準の Arm アーキテクチャ上に構築されているため、Arm 向けにコンパイルされたアプリケーションとオペレーティングシステムは、クラウド、オンプレミス、エッジ環境間で移植可能なので、開発投資を保護します。C4A メタルは、96 個の vCPU、768 GB の DDR5 メモリ、最大 100 Gbps のネットワーキング帯域幅を提供し、Hyperdisk Balanced、Extreme、Throughput、ML ブロックストレージオプションを含む Google Cloud Hyperdisk を完全にサポートします。

Google Cloud は、ワークロードに最適化されたインフラストラクチャを提供し、あらゆるタスクに適切なリソースを提供します。Google Cloud Axion 仮想マシンファミリーなどの C4A メタルは、Titanium を搭載しています。Titanium は、Google のインフラストラクチャの基盤となる多層オフロードとセキュリティの重要なコンポーネントです。Titanium のカスタム設計された半導体デバイスは、ネットワーキングとストレージの処理をオフロードして CPU の負担を軽減し、専用の SmartNIC がすべての I/O を管理するため、Axion コアはアプリケーションのパフォーマンスだけに確保されます。Titanium は、Google Cloud の垂直統合型ソフトウェアスタックの一部です。このスタックは、サーバー内のカスタム半導体デバイスから、42 のリージョンにまたがる 775 万キロメートルの陸上、海底ファイバーを結ぶ地球規模のネットワークまで、効率を最大化し、超低レイテンシと高帯域幅を全世界でお客様に提供するように設計されています。

自動車ワークロードのアーキテクチャパリティ

自動車業界のお客様は、インフォテインメントや先進運転支援システム（ADAS）などの車載システムで、Arm アーキテクチャのパフォーマンス、効率性、柔軟な設計を活用できます。Axion C4A メタルインスタンスは、テスト環境と本番環境の半導体デバイス間のアーキテクチャのパリティを実現します。これにより、自動車テクノロジープロバイダは、本番環境の電子制御ユニット（ECU）で使用されているのと同じ Arm Neoverse 命令セットアーキテクチャ（ISA）でソフトウェアを検証できます。これにより、最終段階での統合で障害の起こるリスクが大幅に軽減されます。パフォーマンスが重要なタスクにも、物理ハードウェアの一貫した低レイテンシのパフォーマンスで、要求の厳しい仮想ハードウェアインザループ（vHIL）シミュレーションを実行し、テスト結果の信頼性と精度を確保できます。最後に、C4A メタルを使用すると、プロバイダはテストファーム全体を動的にスケーリングし、固定資本支出から柔軟な運用支出に変換することで、物理ラボの制約を超えることができます。

「この AI 定義車両の時代では、ペースの加速とテクノロジーの複雑さのために、ソフトウェア開発に対する従来の線形アプローチを再考せざるを得なくなっています。Google Cloud が Axion C4A メタルを導入したことは、この流れにおける大きな一歩です。テスト環境と物理的な半導体デバイスの間で Arm 上のアーキテクチャの完全なパリティを提供することで、お客様は開発サイクルの加速というメリットを享受でき、さまざまに特化したユースケースで継続的インテグレーションとコンプライアンスを実現できます。」- Arm、自動車ビジネス担当シニアバイスプレジデント兼ゼネラルマネージャー Dipti Vachani 氏

「当社のパートナー様とお客様は、高度な運転支援システムからデジタルコックピットまで、最もミッションクリティカルなシステムに必要な安全性、セキュリティ、信頼性、リアルタイムパフォーマンスを実現するために QNX を利用しています。ソフトウェア定義車両の時代が勢いを増すにつれ、ソフトウェア開発を物理的なハードウェアから切り離すことはもはや単なる選択肢ではなく、大規模なイノベーションに不可欠なものとなっています。Google Cloud の Axion 上の C4A-metal インスタンスのリリースは、強力な ARM ベースのベアメタルプラットフォームの導入であり、自動車エコシステムに革新的なクラウドインフラストラクチャのメリットをもたらすため、当社はこれをテストし、サポートすることを熱望しています。」- QNX、プロダクトおよび戦略担当シニアバイスプレジデント、Grant Courville 氏

「自動車モビリティの未来には、実践と開発において前例のないスピードと精度が求められます。Snapdragon Digital Chassis プラットフォームを活用する自動車メーカーやサプライヤーにとって、クラウド開発環境とテスト環境を車両内の Snapdragon SoC と同等に保つことは、効率と品質を確保するうえで非常に重要です。Google Cloud がこの分野に力を入れていることを嬉しく思います。Axion を搭載した C4A-metal インスタンスの提供は大きな前進であり、自動車エコシステムにクラウド内に物理環境と仮想環境間の真の 1:1 の環境を提供します。この画期的な技術により、統合の課題が大幅に軽減され、検証時間が短縮されるため、パートナー様は AI を活用した機能を大規模で迅速に市場に投入できます。」- Qualcomm Technologies, Inc.、プロダクト管理担当バイスプレジデント、Laxmi Rayapudi 氏

Android 開発でテストと本番環境を一致させる

Android プラットフォームは、ほぼすべてのモバイルデバイスの標準である Arm ベースのプロセッサ向けに構築されています。Android デベロッパーは、C4A メタルを備えた Axion プロセッサのベアメタルインスタンスで開発とテストのパイプラインを実行することで、ネイティブパフォーマンスのメリットを享受できます。これにより、命令ごとの翻訳レイヤの遅延など、エミュレーション管理のオーバーヘッドが排除されます。さらに、Android ビルドツールチェーンと自動テストシステムのレイテンシを大幅に削減し、フィードバックサイクルを短縮できます。また、C4A メタルはネストされた仮想化のパフォーマンスに関する課題も解決するため、スケーラブルな Cuttlefish（Cloud Android）環境に最適なプラットフォームとなります。

これが使えるようになると、開発者は Horizon の今後のリリースで、または Cloud Android Orchestration を直接利用して、スケーラブルな Cuttlefish 環境ファームを C4A メタルインスタンス上にデプロイできます。C4A メタルでは、これらの仮想デバイスを物理ハードウェア上で直接実行できるため、真の継続的テストのために大規模で忠実度の高いテストファームを構築、管理するために必要なパフォーマンスが提供されます。

妥協のないベアメタルアクセス

クラウドサービスとして、C4A メタルでは、物理ハードウェアの調達と管理のライフサイクル全体を予測可能な運用費用に置き換えますので、総所有コストを削減できます。これにより、サーバーの購入に伴う直接的な設備投資が不要になり、ハードウェアのメンテナンス契約、電力、冷却、物理的なデータセンターのスペースに関連する運用コストも不要になります。テストの需要に正確に一致するようにインスタンスをプログラムでプロビジョニングし、またプロビジョニング解除できるため、開発サイクルのピークを待機しているだけの過剰にプロビジョニングされたサーバーフリートに対して料金を支払う必要がなくなります。

Virtual Private Cloud（VPC）内の標準的なコンピューティングリソースとして動作する C4A メタルインスタンスは、仮想マシンと同じセキュリティポリシー、監査ログ、ネットワーク制御を継承して活用します。インスタンスは、ツールチェーンからは物理サーバーのように見えるように設計されており、一般的なモニタリングエージェントとセキュリティエージェントをサポートしているため、既存の Google Cloud 環境と簡単に統合できます。この統合はストレージにも及び、ここではネットワーク接続された Hyperdisk を使用すると、チームが仮想マシンフリートですでに使用しているのと同じスナップショットとサイズ変更ツールを使用して、永続ディスクを管理できます。

「当社のビルドシステムでは、真の分離が最重要事項です。Google Cloud の新しい C4A メタルインスタンスを Axion で実行することで、ビルドのパフォーマンスを損なうことなく、強力なハイパーバイザセキュリティ境界でパッケージビルドを分離できます。」- Chainguard, Inc.、創業者兼 CTO、Matthew Moore 氏

連携のメリット: Axion C シリーズと N シリーズ

Arm ベースの Axion ポートフォリオに C4A メタルが加わったことで、お客様はあらゆるワークロードに適切なインフラストラクチャをマッチングさせ、総所有コストを削減できるようになりました。Axion C4A 仮想マシンは一貫して高いパフォーマンスを発揮できるよう最適化されており、N4A 仮想マシン（現在プレビュー版）は費用対効果と柔軟性を最適化しています。一方、C4A メタルは、非仮想化 Arm 環境を必要とする特殊なアプリケーションによるハードウェアへの直接アクセスという重要なニーズに対応します。

たとえば、Android 開発企業は、ビルドファームに C4A 仮想マシンを使用することで、非常に効率的な CI/CD パイプラインを作成できます。大規模なテストでは、C4A メタルを使用して Cuttlefish 仮想デバイスを物理ハードウェア上で直接実行し、ネストされた仮想化のオーバーヘッドを排除できます。さらに忠実度を高めるために、C4A メタル上で Cuttlefish ハイブリッドデバイスを実行し、物理ハードウェアのシステムイメージを再利用できます。同時に、CI/CD オーケストレーターやアーティファクトリポジトリなどのサポートインフラストラクチャは、費用対効果の高い N4A インスタンスで実行できます。カスタムマシンタイプを使用してリソースを適正なサイズに調整し、運用費用を最小限に抑えることができます。

プレビュー版を近日提供予定

C4A メタルは近日中にプレビュー版がリリースされる予定です。早期アクセスとその他のアップデートに登録するには、こちらのフォームにご記入ください。

-Google Cloud、プロダクトマネージャー Yarden Halperin

STAC Summit NYC での Google Cloud と AMD: 金融業界向けの H4D VM

Tue, 18 Nov 2025 01:00:00 +0000

※この投稿は米国時間 2025 年 10 月 23 日に、Google Cloud blog に投稿されたものの抄訳です。

資本市場では、低レイテンシと高パフォーマンスを求める競争が絶え間なく続いています。そのため、Google Cloud は 10 月 28 日（火）に開催される STAC Summit NYC に参加し、AMD と提携します。両社が力を合わせ、リアルタイムのリスク分析からアルゴリズム取引まで、金融サービス業界で最も要求の厳しいワークロードに、両社のイノベーションを組み合わせることでどのように対処できるかをご紹介します。

金融サービス向けの H4D VM

Google のサービスの中核をなすのは、第 5 世代 AMD EPYC プロセッサ（コードネーム Turin）を搭載した Google Cloud H4D VM で、現在プレビュー版が提供されています。

金融業界は、1 ミリ秒が勝敗を分ける超高速の世界です。H4D VM シリーズは、高頻度取引（HFT）、バックテスト、市場リスクシミュレーション（モンテカルロなど）、デリバティブの価格設定に必要な優れたパフォーマンスを実現するために構築されています。コア間の優れた通信速度と効率性、大容量のメモリ、最適化されたネットワークスループットを備えた H4D シリーズは、複雑な計算をより高速に実行し、シミュレーション時間を短縮し、最終的には競争力を高めるように設計されています。

H4D: 金融ワークロードに優れたパフォーマンス

世代間のパフォーマンス向上を定量化するために、AMD にパフォーマンステストを委託しました。KX Nano オープンソースベンチマークを使用して、新しい H4D VM と前世代の C3D VM（第 4 世代 AMD EPYC プロセッサを搭載）を直接比較しました。このベンチマークユーティリティは、kdb+ データベースのデータオペレーションを実行するシステムの CPU、メモリ、I/O の生のパフォーマンスをテストするように設計されています。これらの高性能な列ベースの時系列データベースは、投資銀行やヘッジファンドなどの大手金融機関で、株式市場の取引や相場などの大量の時系列データを処理するために広く使用されています。

その結果、H4D シリーズではすぐに使える状態で大幅なパフォーマンス向上が実証されました。追加のシステムチューニングなしで、 H4D VM はすべての KX Nano テストシナリオで C3D VM を平均約 34% 上回りました。

図 1: コアあたりのキャッシュ依存型オペレーション（シナリオ 1）では、H4D が世代間の優位性を示し、すべてのテストタイプでパフォーマンスが約 1.36 倍向上しました。これにより、主要な財務モデリング機能におけるコア間の通信速度と効率、メモリレイテンシの優位性が確認されました。*1

図 2: プロセッサ数を最大コア数に設定し、スレッドごとに 1 つの kdb ワーカーを設定したマルチコアスケーラビリティ（シナリオ 2）では、すべてのテストタイプで約 1.33 倍のパフォーマンス向上を実現しました。これは、利用可能なすべてのコアで並列処理を行う H4D の優れた能力を示しています。*2

図 3: kdb+ インスタンスあたり 8 スレッド、コアあたり 1 スレッドの、同時実行の多いマルチスレッドワークロード（シナリオ 3）の場合、H4D は大幅な優位性を維持し、すべてのテストタイプで約 1.33 倍の相対的な向上を実現しました。*3

これらのベンチマーク結果は、H4D VM が最も要求の厳しい低レイテンシのワークロードを高速化するように構築されており、高頻度取引、リスクシミュレーション、定量分析に必要なパフォーマンスを提供することを示しています。

あらゆる金融サービスソリューション

H4D VM は、来週火曜日に開催される STAC Summit で Google Cloud と AMD の大きなハイライトとなるでしょう。また、金融機関向けの幅広いソリューションも展示します。データストレージから高度なコンピューティングまで、技術スタック全体を最適化する方法について、ぜひご相談ください。

IBM Symphony GCE および GKE コネクタ: ジョブを Compute Engine または Google Kubernetes Engine（GKE）にバーストすることで、既存の Platform Symphony グリッドコンピューティング環境を拡張および管理する方法をご確認ください。
Managed Lustre: 運用上のオーバーヘッドなしで、最も要求の厳しい HPC および定量的ワークロード向けに、極めて高いパフォーマンスのファイルストレージを利用できます。
GPU と TPU: Google の強力なアクセラレータが ML、AI、リスク分析タスクを大幅に高速化する方法をご確認ください。
マネージド Slurm を使用した Cluster Director: 人気の Slurm ワークロードマネージャーとの統合により、HPC クラスタワークロードを簡単にデプロイ、管理できます。

エキスパートに相談しよう

金融サービスにおいて、パフォーマンス・セキュリティ・コンプライアンスが妥協できない要素であることを、私たちは理解しています。当日は、皆さまが直面している具体的な課題について議論し、Google Cloud がAMDとのパートナーシップを通じて、企業が革新と成長を実現するために必要な強力で高性能な基盤をどのように提供しているかをご紹介します。

10 月 28 日に開催される STAC Summit NYC の Google Cloud ブースと AMD ブースで皆様にお会いできることを楽しみにしております。

-Annie Ma-Weaver、Google Cloud、グループプロダクトマネージャー

-Anthony Frery、Google Cloud HPC、カスタマーエンジニア

GKE で LLM の大規模な強化学習（RL）を実行する

Fri, 14 Nov 2025 02:10:00 +0000

※この投稿は米国時間 2025 年 11 月 11 日に、Google Cloud blog に投稿されたものの抄訳です。

大規模言語モデル（LLM）の進化に伴い、強化学習（RL）は、強力なモデルを人間の好みや複雑なタスクの目標に合わせるための重要な手法になりつつあります。

しかし、LLM の RL を実装してスケーリングする必要がある企業は、インフラストラクチャの課題に直面しています。主な課題としては、複数の大規模モデル（アクター、クリティック、報酬、参照モデルなど）を同時にホストすることによるメモリ競合、高レイテンシの推論生成における反復的な切り替え、そして高スループットのトレーニングフェーズが挙げられます。

本ブログでは、カスタム TPU ハードウェアから GKE オーケストレーション層まで、Google Cloud のフルスタック統合アプローチを詳しく解説し、大規模 RL におけるハイブリッドかつ重要な要求への対応方法を紹介します。

クイックガイド: LLM における強化学習（RL）

RL は、トレーニングと推論の両方の要素を組み合わせた継続的なフィードバックループです。LLM の RL ループの概要は次のとおりです。

LLM が、指定されたプロンプトに対する回答を生成します。
「報酬モデル」（多くの場合、人間の好みに基づいてトレーニングされる）は、出力に定量的なスコア、つまり報酬を割り当てます。
RL アルゴリズム（例: DPO、GRPO）は、この報酬シグナルを使用して LLM のパラメータを更新し、そのポリシーを調整して、その後のインタラクションでより高い報酬が得られる出力を生成します。

この生成、評価、最適化により、事前定義された目標に基づいて LLM のパフォーマンスが継続的に向上します。

RL ワークロードはハイブリッドで循環的です。RL の主な目標は、エラーの最小化（トレーニング）や高速な予測（推論）ではなく、反復的なインタラクションを通じて報酬を最大化することです。RL ワークロードの主な制約は計算能力だけでなく、システム全体の効率性にもあります。具体的には、エンドツーエンドのステップ時間を効率化するために、サンプラー全体の合計レイテンシを最小限に抑え、重みのコピー速度を最大化することが求められます。

Google Cloud の RL に対するフルスタックアプローチ

システム全体の課題を解決するには、統合的なアプローチが必要です。高速なハードウェアや優れたオーケストレーターだけでは不十分で、スタックのすべてのレイヤが連携する必要があります。RL の特定のニーズを解決するために構築された Google のフルスタックアプローチは次のとおりです。

1. 柔軟で高性能なコンピューティング（TPU と GPU）: お客様を 1 つのパスに固定するのではなく、2 つの高性能オプションを提供します。Google のTPU スタックは、垂直統合された JAX ネイティブのソリューションです。行列演算に優れたカスタムハードウェアが、ポストトレーニングライブラリ（MaxText と Tunix）と共同設計されています。並行して、Google は NVIDIA GPU エコシステムを全面的にサポートし、最適化された NeMo RL レシピについて NVIDIA と提携しているため、お客様は既存の専門知識を GKE で直接活用できます。

2. 包括的なフルスタックの最適化: ベアメタルから上位レイヤまで最適化を統合します。これには、Google のカスタム TPU アクセラレータ、高スループットストレージ（Managed Lustre、Google Cloud Storage）、そして何よりも重要な GKE が提供するオーケストレーションとスケジューリングが含まれます。スタック全体を最適化することで、ハイブリッド RL ワークロードのボトルネックとなるシステム全体のレイテンシに対処できます。

3. オープンソースのリーダーシップ: RL インフラストラクチャは複雑で、幅広いツール上に構築されています。Google のリーダーシップは、Kubernetes のオープンソース化から始まり、Ray などのオーケストレーターとの積極的なパートナーシップにまで及んでいます。Google は、vLLM などの主要なプロジェクトに貢献し、費用対効果の高いサービングのための llm-d などのオープンソースソリューションを開発し、独自の高性能 MaxText および Tunix ライブラリをオープンソース化しています。これにより、単一のベンダーのツールだけでなく、作業に最適なツールを統合できます。

4. 実績のあるメガスケールのオーケストレーション: トレーニング後の RL には、事前トレーニングに匹敵するコンピューティングリソースが必要になる場合があります。これには、大規模な分散ジョブを単一のユニットとして管理できるオーケストレーションレイヤが必要です。GKE AI メガクラスタは現在最大 65,000 ノードをサポートしており、Google は単一クラスタの制限を超えて RL ワークロードをスケーリングするために、MultiKueue などのマルチクラスタソリューションに多額の投資を行っています。

GKE で RL ワークロードを実行する

既存の GKE インフラストラクチャは、要求の厳しい RL ワークロードに最適であり、インフラストラクチャレベルでさまざまな効率性を提供します。

以下の画像は、RL を大規模に実装するためのアーキテクチャと主な推奨事項の概要を示しています。

図 : RL を実行するための GKE インフラストラクチャ

基盤となるインフラストラクチャレイヤは、サポートされているコンピューティングタイプ（CPU、GPU、TPU）などの基礎的なハードウェアを提供します。Run:ai モデルストリーマーを使用すると、3 つのコンピューティングタイプすべてでモデルストリーミングを高速化できます。高性能ストレージ（Managed Lustre、Cloud Storage）を RL のストレージニーズに使用できます。

中間レイヤは、GKE を利用したマネージド K8s レイヤです。このレイヤは、リソースのオーケストレーション、リソースの入手可能性（Spot または Dynamic Workload Scheduler を使用）、自動スケーリング、プレースメント、ジョブのキューイングやスケジューリングなどにメガスケールで対応します。

最後に、オープンフレームワークレイヤが GKE 上で実行され、アプリケーションと実行環境が提供されます。これには、安全な分離されたタスク実行のための KubeRay、Slurm、gVisor サンドボックスなどのオープンソースツールのマネージドサポートが含まれます。

RL ワークフローの構築

RL ワークロードを作成する前に、まず明確なユースケースを特定する必要があります。目標を定義したら、アルゴリズム（DPO、GRPO など）、モデルサーバー（vLLM、SGLang など）、ターゲット GPU/TPU ハードウェア、その他の重要な構成を選択して、コアコンポーネントを設計します。

次に、Workload Identity、GCS Fuse、DGCM 指標で構成された GKE クラスタをプロビジョニングできます。堅牢なバッチ処理を行うには、Kueue と JobSet の API をインストールします。この GKE スタックの上にオーケストレーターとして Ray をデプロイすることをおすすめします。そこから、Nemo RL コンテナを起動し、GRPO ジョブ用に構成して、実行のモニタリングを開始できます。詳細な実装手順とソースコードについては、こちらのリポジトリをご覧ください。

RL のスタートガイド

GPU で RL を実行する: GRPO アルゴリズムで MaxText と Pathways を使用する場合は TPU で RL レシピを試し、GPU を使用する場合は NemoRL レシピをお試しください。
オープンソースエコシステムとの連携: Google の AI におけるリーダーシップは、Kubernetes、llm-d、Ray、MaxText、Tunix などのオープンスタンダードの上に構築されています。Google と連携して、AI の未来を共に築きましょう。ぜひ llm‑d で開発にご協力ください。llm-d コミュニティに参加し、GitHub のリポジトリをチェックして、オープンソース LLM サービスの今後の発展に貢献しましょう。

-シニアプロダクトマネージャー Poonam Lamba

-ソフトウェアエンジニア、Bogdan Berce

AI Hypercomputer の最新情報: TPU 上の vLLM など

Tue, 11 Nov 2025 01:10:00 +0000

※この投稿は米国時間 2025 年 10 月 21 日に、Google Cloud blog に投稿されたものの抄訳です。

Google Cloud AI Hypercomputer は、AI に最適化されたハードウェア、最先端のソフトウェア、柔軟な消費モデルを組み合わせて、あらゆる AI ワークロードへの効率的な対応を実現しています。Google は 3 か月ごとに、AI Hypercomputer に関する最新のニュース、リソース、イベント、学習機会などをまとめてご紹介しています。今回は、AI 活用をさらに迅速で効率的かつ有益なものにするための最新の開発状況をご紹介します。まずは、推論に関するグッドニュースから始めましょう。

新しい vLLM TPU の発表

大規模言語モデル（LLM）を扱う ML 実務担当者にとって、優れた費用対効果を維持した推論ワークロードのサービングは究極の目標です。そこで、Google は今四半期最大のアップデートとして、業界をリードする Google Cloud TPU と JAX のパフォーマンスを、最も人気のあるオープンソース LLM 推論エンジンである vLLM にもたらすことを発表します。

vLLM TPU は、JAX と PyTorch を単一のランタイムで統合する、表現力豊かで強力な新しいハードウェアプラグインである tpu-inference を搭載しています。前世代の vLLM TPU よりも高速であるだけでなく、より幅広いモデルをカバー（例: Gemma、Llama、Qwen）と機能サポート。vLLM TPU は、開発者が次のことを行うためのフレームワークです。

オープンソースで TPU ハードウェアのパフォーマンスの限界を押し上げる
TPU 上で PyTorch モデル定義を高パフォーマンスで実行し、JAX のネイティブサポートも拡張されたことで、JAX と PyTorch のユーザーに柔軟性を提供。追加のコード変更は不要
vLLM の標準化を維持: 同一のユーザーエクスペリエンス、テレメトリー、インターフェースを確保

現在、vLLM TPU は、2025 年 2 月にリリースした最初の TPU バックエンドプロトタイプよりもパフォーマンスが大幅に向上しており、モデルのサポートと機能の網羅率が改善されています。この新しい基盤の整備により、わずかな構成変更だけで、オープンソース環境における TPU 推論性能をこれまで以上に引き出せるようになります。

技術的な詳細については、vLLM の最新のブログ投稿をご覧ください。

AI ツールキットを拡充

AI Hypercomputer の追加アップデートにより、制御、分析情報、選択肢がさらに広がります。

改良された XProf プロファイラでボトルネックをより迅速に発見して修正ML 開発において、パフォーマンスのデバッグは最も時間のかかる作業の一つです。これを簡単にするために、Google は XProf プロファイラを強化し、新しい Cloud Diagnostics XProf ライブラリをリリースしました。これにより、JAX と PyTorch / XLA 全体で統合された高度なプロファイリングエクスペリエンスが提供され、これまで Google の社内チームだけが使っていた強力なツールでモデルのボトルネックを特定できます。パフォーマンスの問題の特定にかかる時間が短縮され、その分をイノベーションに投資できるようになります。

オープンネスの実現: NVIDIA Dynamo の新しいレシピ

Google は、選択の原則に基づいて AI Hypercomputer を構築し、お客様が手元の作業に最適なツールを使用できるようにしたいと考えています。これを目的として、AI Hypercomputer の新しい NVIDIA Dynamo を使用する AI 推論レシピでは、GKE で管理される個別の GPU プールに「プリフィル」フェーズと「デコード」フェーズを分離し、分散型推論アーキテクチャをデプロイする方法を紹介しています。これは、Google のオープンアーキテクチャによって、エコシステム全体から最高水準のテクノロジーを組み合わせて複雑な課題を解決できることを示す強力なデモンストレーションです。

NVIDIA NeMo RL で強化学習を加速

強化学習（RL）は、高度な推論を必要とする複雑な AI エージェントやワークフローに不可欠なトレーニング手法として急速に普及しています。強化学習でパフォーマンスの強化を目指すチーム向けに、Google Cloud で NVIDIA NeMo RL を使い始めるための再現性のある新しいレシピが提供されています。NeMo RL は、RL ワークロードに固有の複雑なスケーリングとレイテンシの課題に対処するために設計された高性能フレームワークです。このフレームワークでは、最適化された GRPO や PPO などの主要アルゴリズムにより、大規模モデルのトレーニングが容易になります。新しいレシピは、GKE と vLLM を使用した A4 VM（NVIDIA HGX B200 搭載）で実行され、Llama 3.1 8B や Qwen2.5 1.5B などのモデルの RL 開発サイクルを簡単に設定、スケーリングできます。

費用対効果の高い方法で高パフォーマンスの推論をスケーリング生成 AI アプリケーションの使いやすさは、リクエストに対する迅速な初期応答と、完了までのスムーズなレスポンスストリーミングの両方に大きく依存します。LLM サービングを合理化して標準化するために、GKE Inference Gateway と Quickstart の一般提供が開始されました。Inference Gateway は、は、プレフィックス対応のロードバランシングなどの新機能により、シンプルなサービス提供を可能にします。これにより、繰り返しプロンプトを使用するワークロードのレイテンシが大幅に向上します。Inference Quickstart では、モデルに最適な費用対効果の高いハードウェアとソフトウェアの構成を見つけられるようになり、手動評価に数か月を費やす必要がなくなります。これらの新機能により、AI Hypercomputer のファーストトークンまでの時間（TTFT）と出力トークンあたりの時間（TPOT）が改善されました。

包括的なシステムで未来を築く

本日ご紹介した進歩（vLLM の TPU への導入から、高度なプロファイリングやサードパーティとの統合の実現まで）はすべて、AI Hypercomputer が次世代 AI の需要を満たすために常に進化するスーパーコンピューティングシステムであるという考え方に基づいています。

Google は、Gemini のトレーニングから毎月数京のトークンの処理まで、運用で得た知見に基づいて、AI Hypercomputer を更新・最適化していきます。AI Hypercomputer を独自の AI ワークロードに使用する方法について詳しくは、こちらをご覧ください。Google Cloud のコミュニティでは、Google の進歩について最新情報を確認したり、質問することが可能です。また、GitHub で拡張し続ける AI Hypercomputer リソースリポジトリにアクセスすることもおすすめします。AI Hypercomputer を構築のために活用していただければ幸いです。

-AI およびコンピューティング担当プロダクトマネージャー Brittany Rockwell

-AI およびコンピューティング担当プロダクト戦略プリンシパル Kaan Akoz

G4 VM の内部: マルチ GPU ワークロード向けのカスタムの高性能 P2P ファブリック

Tue, 11 Nov 2025 00:15:00 +0000

※この投稿は米国時間 2025 年 10 月 21 日に、Google Cloud blog に投稿されたものの抄訳です。

このたび、NVIDIA RTX PRO 6000 Blackwell Server Edition GPU をベースとする G4 VM ファミリーの一般提供が開始されました。Google Cloud 独自のプラットフォーム最適化により、G4 VM は、300 億未満から 1,000 億を超えるパラメータまで、幅広いモデルで推論とファインチューニングを行うための、市販されている NVIDIA RTX PRO 6000 Blackwell GPU の中で最高のパフォーマンスを実現します。このブログでは、これらのプラットフォーム最適化の必要性、仕組み、および独自の環境での使用方法について説明します。

集団のコミュニケーションのパフォーマンスが重要

大規模言語モデル（LLM）は、パラメータ数によって特徴付けられるように、サイズが大きく異なります。小（約 70 億）、中（約 700 億）、大（約 3,500 億以上）です。LLM は、96 GB の GDDR7 メモリを搭載した NVIDIA RTX PRO 6000 Blackwell を含め、単一の GPU のメモリ容量を超えることがよくあります。一般的な解決策は、テンソル並列処理（TP）を使用することです。これは、個々のモデルレイヤを複数の GPU に分散することで機能します。これには、レイヤの重み行列をパーティショニングして、各 GPU が並列で部分的な計算を実行できるようにすることが含まれます。しかし、これらの部分的な結果を All-Gather や All-Reduce などの集団通信オペレーションを使用して結合する必要があるため、パフォーマンスのボトルネックが顕著になります。

G4 ファミリーの GPU 仮想マシンは、PCIe のみのインターコネクトを利用します。Google は、インフラストラクチャに関する豊富な専門知識を活用して、ピアツーピア（P2P）通信をサポートする高性能なソフトウェア定義の PCIe ファブリックを開発しました。重要なのは、G4 のプラットフォームレベルの P2P 最適化により、マルチ GPU スケーリングを必要とするワークロードの集団通信が大幅に高速化されることです。これにより、LLM の推論とファインチューニングの両方が大幅に向上します。

G4 でマルチ GPU のパフォーマンスを加速する方法

マルチ GPU G4 VM シェイプは、カスタムハードウェアとソフトウェアの両方を組み合わせることで、大幅に強化された PCIe P2P 機能を獲得します。この進歩により、GPU データ交換の管理のための All-to-All、All-Reduce、All-Gather コレクティブなどの集団通信が直接最適化されます。その結果、マルチ GPU 推論やファインチューニングなどの重要なワークロードでパフォーマンスが大幅に向上する、低レイテンシのデータパスが実現します。

実際、すべての主要なコレクティブで、強化された G4 P2P 機能により、コードやワークロードを変更することなく、最大 2.2 倍の高速化が実現しています。

G4 での P2P による推論パフォーマンスの向上

G4 インスタンスでは、強化されたピアツーピア通信により、特に vLLM を使用したテンソル並列推論において、マルチ GPU ワークロードのパフォーマンスが直接向上し、スループットが最大 168% 向上、トークン間レイテンシ（ITL）が最大 41% 低下 します。

モデル提供にテンソル並列処理を使用すると、特に標準の非 P2P サービスと比較して、こうした改善が見られます。

同時に、G4 はソフトウェア定義の PCIe と P2P イノベーションを組み合わせることで、推論スループットを大幅に向上させ、レイテンシを短縮します。これにより、ビジネスニーズに合わせて推論デプロイを最適化できます。

スループットまたは速度: P2P を使用する G4 で選択可能

G4 VM のプラットフォームレベルの最適化は、柔軟で強力な競争上の優位性に直接つながります。ユーザーエクスペリエンスが最重要となるインタラクティブな生成 AI アプリケーションの場合、G4 の P2P テクノロジーにより、トークン間のレイテンシが最大 41% 削減されます。これは、レスポンスの各部分を生成する間の重要な遅延です。これにより、エンドユーザーエクスペリエンスが明らかに高速化され、応答性が向上し、AI アプリケーションに対する満足度が高まります。

また、バッチ推論など、スループットが優先されるワークロードの場合、P2P を使用した G4 では、同等のサービスよりも最大 168% 多くのリクエストを処理できます。つまり、各モデルインスタンスで処理できるユーザー数を増やすか、AI アプリケーションの応答性を大幅に向上させることができます。レイテンシの影響を受けやすいインタラクションに重点を置く場合でも、大容量のスループットに重点を置く場合でも、G4 は市場の他の NVIDIA RTX PRO 6000 製品よりも優れた投資収益率を実現します。

G4 と GKE Inference Gateway でさらに拡張

P2P は単一のモデルレプリカのパフォーマンスを最適化しますが、本番環境の需要を満たすためにスケールするには、多くの場合、複数のレプリカが必要になります。ここで GKE Inference Gateway が真価を発揮します。プレフィックスキャッシュ対応ルーティングやカスタムスケジューリングなどの高度な機能を使用して、モデルのインテリジェントなトラフィックマネージャーとして機能し、デプロイ全体でスループットを最大化し、レイテンシを大幅に削減します。

G4 の P2P の垂直スケーリングと推論ゲートウェイの水平スケーリングを組み合わせることで、最も要求の厳しい生成 AI アプリケーション向けに、非常に高いパフォーマンスと費用対効果を実現するエンドツーエンドのサービングソリューションを構築できます。たとえば、G4 の P2P を使用すると、2 GPU の Llama-3.1-70B モデルレプリカを 66% 高いスループットで効率的に実行できます。その後、GKE Inference Gateway を使用して、これらのレプリカをインテリジェントに管理および自動スケーリングし、世界中のユーザーの需要に対応できます。

G4 P2P でサポートされる VM シェイプ

NVIDIA RTX PRO 6000 Blackwell のピアツーピア機能は、以下のマルチ GPU G4 VM シェイプで利用できます。

マシンタイプ	GPU	ピアツーピア	GPU メモリ（GB）	vCPU	ホストメモリ（GB）	ローカル SSD（GB）
g4-standard-384	2	○	192	96	360	3,000
g4-standard-384	4	○	384	192	720	6,000
g4-standard-384	8	○	768	384	1,440	12,000

8 個未満の GPU を搭載した VM シェイプの場合、ソフトウェア定義の PCIe ファブリックにより、同じ物理マシン上の異なる VM に割り当てられた GPU 間のパスが分離されます。PCIe パスは VM の作成時に動的に作成され、VM シェイプに依存します。これにより、プラットフォームスタックの複数のレベルで分離が確保され、同じ VM に割り当てられていない GPU 間の通信が防止されます。

Google Pixel 4 で P2P を使ってみる

G4 のピアツーピア機能はワークロードに対して透過的であり、アプリケーションコードや NVIDIA Collective Communications Library（NCCL）などのライブラリに変更を加える必要はありません。すべてのピアツーピアパスは、VM の作成時に自動的に設定されます。NCCL ベースのワークロードでピアツーピアを有効にする方法について詳しくは、G4 のドキュメントをご覧ください。

今すぐ Google Cloud コンソールから P2P を使用した Google Cloud G4 VM をお試しください。GKE Inference Gateway を使用して推論プラットフォームの構築を開始できます。詳細については、Google Cloud セールスチームまたは販売パートナーにお問い合わせください。

-Google、アクセラレータソフトウェア担当シニアプロダクトマネージャー、Cyrill Hug

-Google、ソフトウェアエンジニア Prashanth Prakash

TPU「Ironwood」の一般提供開始と推論時代を支える新しい Axion VM を発表

Fri, 07 Nov 2025 03:00:00 +0000

※この投稿は米国時間 2025 年 11 月 7 日に、Google Cloud blog に投稿されたものの抄訳です。

Google の Gemini、Veo、Imagen、そして Anthropic の Claude など、今日の最先端モデルは Tensor Processing Unit（TPU）でトレーニングおよび提供されています。多くの組織において現在はモデルのトレーニングから、それらを用いた有用で応答性の高い対話を実現することへと焦点を移行しつつあります。絶えず変化するモデルアーキテクチャ、エージェントワークフローの台頭、そして演算需要のほぼ指数関数的な成長が、この新しい推論の時代を形作っています。特に、汎用コンピュートと機械学習のためのアクセラレータとの間のオーケストレーションと緊密な連携を必要とするエージェントワークフローは、カスタムシリコンと垂直統合され最適化されたシステムアーキテクチャに新たな機会を生み出しています。

この変革に備え、本日、カスタムシリコンにて開発された 3 つの新製品の提供を発表します。推論とエージェントワークロードに対して新しい機能を提供し、優れたパフォーマンスと低コストを実現します。

Ironwood：第 7 世代 TPU である Ironwood の一般提供を今後数週間で開始します。Ironwood は、大規模なモデルトレーニングや複雑な強化学習（RL）から、大容量で低レイテンシの AI 推論やモデル提供まで、最も要求の厳しいワークロード専用に設計されています。第 5 世代と比較して、チップあたり10倍のピークパフォーマンス向上を実現し、前世代の第 6 世代の Trillium と比較して、トレーニングと推論の両ワークロードでチップあたり 4 倍以上のパフォーマンス向上を実現しており、当社で最も強力かつエネルギー効率に優れたカスタムシリコンです。
新しい Arm® ベースの Axion インスタンス：当社の N シリーズ仮想マシンで最もコスト効率に優れている N4A を、現在プレビュー版として提供しています。N4A は、同等の現世代 x86 ベースの VMと比較して最大 2 倍の価格性能を実現します。さらに、当社初の Arm ベースのベアメタルインスタンスである C4A metal も近日中にプレビュー提供を開始します。

Ironwood とこれらの新しい Axion インスタンスは、TPU、YouTube 向けの Video Coding Units（VCU）、モバイル向けの 5 世代にわたる Tensor チップなど、Google のカスタムシリコンイノベーションの長い歴史における最新の成果です。これらはいずれも、モデル研究、ソフトウェア、ハードウェア開発を一元的に行う深いシステムレベルの共同設計によってのみ可能となる、飛躍的なパフォーマンス向上を実現するために構築しました。このアプローチにより、10 年前に初の TPU を構築し、それが 8 年前の Transformer の発明を可能にしました。Transformer は、現代の AI の根幹を支えるアーキテクチャとなっています。また、Titanium アーキテクチャや、2020 年以来フリート全体稼働率が約 99.999% のギガワット規模で展開する高度な液体冷却といった最近の進歩にも影響を与えています。

3 つの Ironwood TPU が液体冷却に接続されている Ironwood ボード

Ironwood スーパーポッドに液体冷却を提供する第 3 世代冷却分配ユニット

Ironwood：モデルトレーニングから惑星規模の推論への最短経路

Ironwood は発表直後から非常に大きな反響を呼んでいます。Anthropic は現在、大規模な Claude モデルのトレーニングから数百万のユーザーへの提供に至るまでのプロセスを加速させ、価格性能比が目覚ましく向上することを高く評価しています。実際、Anthropic は最大 100 万 TPU へのアクセスを計画しています。

「Fortune 500 企業からスタートアップまで、当社のお客様は最も重要な業務に Claude を活用しています。需要が指数関数的に増加し続ける中、当社は AI 研究と製品開発の限界に挑戦しながら、コンピューティングリソースを拡大しています。当社は、Ironwood で推論パフォーマンスとトレーニングのスケーラビリティの両方を効率的に向上させることで、お客様が期待するスピードと信頼性を維持しています。」— Anthropic コンピューティング部門責任者 James Bradbury 氏

Ironwood は、あらゆる規模や業界の組織で利用されています。

「Lightricks のミッションは、オープンな創造性の最先端を確立することであり、それには摩擦やコストを大規模に排除する AI インフラストラクチャが必要です。当社は、Google Cloud TPU とその大規模な ICI ドメインを活用し、主要なオープンソースマルチモーダル生成モデルである LTX-2 において画期的なトレーニング効率を達成しました。推論時代を迎える今、Ironwood の初期テストの結果は非常に有望です。Ironwood により、世界中の数百万のお客様向けに、より繊細で精密、忠実度の高い画像および動画の生成を提供できると確信しています。」— Lightricks 生成 AI 基盤モデルリサーチディレクター Yoav HaCohen 氏

「Essential AI の使命は、強力でオープンなフロンティアモデルを構築することです。私たちは大規模で効率的なスケールを必要としており、Google Cloud の Ironwood TPU はまさにそれを提供してくれます。このプラットフォームは非常に簡単に導入でき、当社のエンジニアはすぐにその能力を活用し、AI のブレークスルーを加速させることに集中できました。」— Essential AI インフラストラクチャリード Philip Monk 氏

システムレベルの設計で推論パフォーマンス、信頼性、コストを最大化

TPU は、コンピューティング、ネットワーキング、ストレージ、およびソフトウェアを統合し、システムレベルのパフォーマンスと効率を向上させる統合型スーパーコンピューティングシステムである AI Hypercomputerの重要な要素です。最近の IDC のレポートによると、AI Hypercomputer を活用されているお客様は、平均して3 年間で 353% の ROI、28% の IT コスト削減、55% の IT チームの効率向上を達成しています。1

Ironwood TPU は、お客様が規模と効率の限界をさらに押し広げることを支援します。TPU をデプロイすると、システムは個々のチップをお互いで接続させ、単一ユニットとして機能する相互接続された TPU のグループであるポッドを作ります。Ironwood では、9.6 Tb/s の画期的な Inter-Chip Interconnect（ICI）ネットワーキングにより、単一のポッド内で最大 9,216 個のチップまで拡張できます。この大規模な接続性により、数千のチップが相互に迅速に通信し、驚異的な 1.77 ペタバイトの共有 High Bandwidth Memory（HBM）にアクセスでき、最も要求の厳しいモデルでもデータボトルネックを克服します。

単一ドメインで 9,216 個の Ironwood TPU を直接接続する Ironwood スーパーポッドの一部

この規模のサービスは中断のない可用性が求められます。そのため、当社の Optical Circuit Switching（OCS）テクノロジーが動的で再構成可能なファブリックとして機能し、サービスの稼働を維持しながら、障害を瞬時に迂回してワークロードを復旧させます。さらなるパワーが必要な場合、Ironwood はポッドを越えて、数十万の TPU からなるクラスターへと拡張します。

Jupiter データセンターネットワークにより、複数の Ironwood スーパーポッドを数十万の TPU のクラスターに接続

AI Hypercomputer の優位性：より速く、効率的な成果を生むハードウェアとソフトウェアの共同設計

このハードウェアの上には共同設計されたソフトウェア層を重ねており、Ironwood の大規模な処理能力とメモリを最大化し、AI ライフサイクル全体で容易に利用できるようにすることを目指しています。

TPU のお客様は、Google Kubernetes Engine の Cluster Director 機能を利用し、フリートの効率と運用を向上できます。これには、インテリジェントなスケジューリングと高可用性クラスターのためのトポロジー認識が含まれます。
事前および事後トレーニング向けに、高性能なオープンソース LLM フレームワークである MaxText の新たな機能強化を公開します。これにより、Supervised Fine-Tuning（SFT）や Generative Reinforcement Policy Optimization（GRPO）などの最新のトレーニングおよび強化学習の最適化手法の実装がより容易になります。
推論については、vLLM における TPU のサポート強化を発表しました。これにより、開発者はわずかな設定変更で GPU と TPU を切り替えたり、両方を同時に実行したりできます。また、GKE Inference Gateway も発表し、TPU サーバー間でインテリジェントに負荷分散を行い、time-to-first-token（TTFT）レイテンシを最大 96% 削減、提供コストを最大 30% 削減します。

このソフトウェア層により、AI Hypercomputer が大規模かつ要求の厳しい AI ワークロードのトレーニング、チューニング、および提供において、高いパフォーマンスと信頼性を実現できます。データセンター全体のハードウェア最適化からオープンソフトウェアやマネージドサービスまで、スタック全体にわたる深い統合により、Ironwood TPU はこれまでで最も強力でエネルギー効率に優れた TPU となっています。ハードウェアとソフトウェアの共同設計に対するアプローチについては、こちらをご覧ください。

Axion：汎用コンピューティングを再定義

最新アプリケーションの構築と提供には、高度に専門化されたアクセラレータと、強力で効率的な汎用コンピューティングの両方が必要です。これが、日常的なワークロードに対して優れたパフォーマンス、コスト効率、およびエネルギー効率を提供するよう設計された、当社のカスタム Arm Neoverse® ベース CPU である Axion のビジョンです。

本日、Axion ポートフォリオを以下で拡充します。

N4A（プレビュー版）は、当社の第 2 世代汎用 Axion VM であり、マイクロサービス、コンテナ化アプリケーション、オープンソースデータベース、バッチ処理、データ分析、開発環境、実験、データ準備、そして AI アプリケーションを支えるウェブサービングジョブに最適です。N4A の詳細は、こちらをご覧ください。
C4A metal（まもなくプレビュー版公開予定）は、当社初の Arm ベースベアメタルインスタンスで、Android 開発、車載システム、厳格なライセンス要件を持つソフトウェア、スケールテストファーム、または複雑なシミュレーションといった専門的なワークロード向けに専用の物理サーバーを提供します。C4A metal の詳細は、こちらをご覧ください。

本日の発表により、Axion ポートフォリオには、N4A、C4A、および C4A metal という 3 つの強力な選択肢が加わります。C シリーズと N シリーズは、パフォーマンスやワークロード固有の要件を損なうことなく、ビジネス運営の総コストを削減できます。

Axion ベースのインスタンス	最適な用途	主な機能
N4A（プレビュー版）	価格性能比と柔軟性	Custom Machine Types、Hyperdisk Balanced および Throughput ストレージをサポートする、最大 64 vCPU、512 GB の DDR5 メモリ、50 Gbps のネットワーキング。
C4A metal（プレビュー版）	ハイパーバイザーやネイティブ Arm 開発などの特殊なワークロード	最大 96 vCPU、768 GB の DDR5 メモリ、Hyperdisk ストレージ、最大 100 Gbps のネットワーキング。
C4A	一貫して高いパフォーマンス	最大 72 vCPU、576 GB の DDR5 メモリ、100 Gbps の Tier 1 ネットワーキング、最大 6 TB のローカル容量を持つ Titanium SSD、高度なメンテナンス制御、そして Hyperdisk Balanced、Throughput、Extreme のサポート。

Axion 固有の効率性は、最新の AI ワークフローにとっても貴重な選択肢となります。Ironwood のような専用のアクセラレータがモデル提供の複雑なタスクを担う一方で、Axion は大容量のデータ準備や取り込みをサポートし、インテリジェントなアプリケーションをホストするアプリケーションサーバーを実行するなど、運用のバックボーンにおいて優位性を発揮します。Axion はすでに顧客に影響を与え始めています。

「Vimeo では、大規模な動画トランスコーディングプラットフォームを効率的に管理するために、長年 Custom Machine Types を利用してきました。新しい Axion ベースの N4A インスタンスに対する初期テストは非常に説得力があり、新たなレベルの効率性を解き放ちました。同等の x86 VM と比較して、中核的なトランスコーディングワークロードで 30% のパフォーマンス向上を確認しています。これは、運用モデルを変更することなく、ユニットエコノミクスを改善し、サービスをより収益性高くスケールするための明確な道筋を示しています。」— Vimeo ホスティング＆デリバリー業務担当シニアディレクター Joe Peled 氏

「ZoomInfo では、効率が最優先の大規模なデータインテリジェンスプラットフォームを運営しています。お客様にタイムリーな洞察を提供するために不可欠な、当社の中核的なデータ処理パイプラインは、Dataflow および GKE 内の Java サービスで広範に実行されています。新しい N4A インスタンスのプレビューでは、これらの重要なワークロードにおいて、x86 ベースに対応する同等インスタンスと比較して 60% の価格性能比の向上を計測しました。これにより、プラットフォームをより効率的にスケールし、より迅速により多くの価値をお客様に提供することができます。」— ZoomInfo チーフインフラストラクチャアーキテクト Sergei Koren 氏

「Google Cloud の Axion ポートフォリオへの移行は、当社に決定的な競争優位性をもたらしました。当社の Supply-Side Platform（SSP）バックエンドサービスなどの C4A インスタンスを利用することで、低く安定したレイテンシを維持しながら、コンピューティング消費を 20% 削減しました。さらに、C4A により、インスタンスサイズに関係なく、ステートフルワークロードに必要な IOPS を正確に備えた Hyperdisk を活用できるようになりました。この柔軟性により、お客様のためにより多くの広告オークションを獲得すると同時に、マージンを大幅に改善できます。現在、当社の API リレーサービスなど、最も柔軟性を必要とする主要なワークロードを実行することで、N4A ファミリーをテストしています。本番環境で実行されているいくつかのアプリケーションが、以前のインフラストラクチャと比較して CPU 消費量を 15% 削減しており、ワークロード特性に必要な適切なインスタンスがバックアップされていることを保証しながら、コストをさらに削減していることについて嬉しく思います。」— Rise クラウド＆ソフトウェアアーキテクト Or Ben Dahan 氏

AI と日常的なコンピューティングのための強力な組み合わせ

絶えず変化するモデルアーキテクチャ、ソフトウェア、および技術の時代で優位性を確立するには、モデルトレーニングと提供を担う専用の AI アクセラレータと、AI アプリケーションをサポートするワークロードを含む日常的なワークロードを処理する効率的な汎用 CPU の組み合わせが鍵となります。

Ironwood と Axion を併用する場合も、AI Hypercomputer で利用可能な他のコンピューティングオプションと組み合わせて使用する場合でも、このシステムレベルのアプローチは、最も要求の厳しいワークロードに対応できる究極の柔軟性と機能を提供します。Ironwood、Axion N4A および C4A metal のテストに今すぐお申込みください。

-Amin Vahdat, VP & GM, AI and Infrastructure, Google Cloud
-Mark Lohmeyer, VP & GM, Compute and AI Infrastructure, Google Cloud

NVIDIA とのパートナーシップを拡大: A4X Max、Vertex AI Training などの提供を開始

Fri, 31 Oct 2025 03:10:00 +0000

※この投稿は米国時間 2025 年 10 月 29 日に、Google Cloud blog に投稿されたものの抄訳です。

今日の AI モデルは、数十億パラメータから数兆パラメータに進化し、複雑なマルチモーダル推論が可能になっています。この飛躍的な高度化に対応するには、次世代モデルの膨大なコンピューティング要件とメモリ要件を処理するための、専用に構築された新しいクラスのインフラストラクチャとソフトウェアが必要です。

Google Cloud は、デベロッパーや組織が AI の未来を構築、デプロイできるよう支援することに注力しています。そして本日、NVIDIA とのパートナーシップをさらに深め、AI ライフサイクル全体に対応するプラットフォームを強化する一連の新機能を発表しました。

NVIDIA の GB300 NVL72 を搭載した新しい A4X Max インスタンス（マルチモーダル AI 推論向けに設計）
Google Kubernetes Engine（GKE）で Dynamic Resource Allocation Kubernetes Network Driver （DRANET）がサポートされ、分散 AI/ML ワークロードの帯域幅が向上
GKE Inference Gateway が NVIDIA NeMo Guardrails と統合
Vertex AI Model Garden で NVIDIA Nemotron モデルを提供
NVIDIA NeMo フレームワークと NeMo-RL をベースにした Vertex AI Training レシピ

では、これらの機能について詳しく見ていきましょう。

NVIDIA GB300 GPU 搭載 A4X Max

A4X Max が本番環境で提供開始されました。NVIDIA GB300 NVL72 を搭載したこれらの新しいインスタンスは、最も要求の厳しいマルチモーダル AI 推論ワークロード向けに最適化されています。A4X Max には、NVIDIA の第 5 世代高速 GPU インターコネクトである NVIDIA NVLink で接続された 72 個の Blackwell Ultra GPU と 36 個の NVIDIA Grace CPU が含まれており、共有メモリと高帯域幅通信を備えた単一の統合コンピューティングプラットフォームとして機能します。Google の Titanium ML アダプタと Google Cloud の Jupiter ネットワークファブリックを組み合わせた A4X Max は、非ブロッキングのレール最適化クラスタで数万個の GPU にスケールするように設計されています。NVIDIA GB200 NVL72 を搭載した A4X と比較して、A4X Max は各システムで 2 倍のネットワーク帯域幅を実現します。

A4X Max は Google Cloud の Cluster Director を活用し、最適化されたコンピューティング、ネットワーキング、Google のストレージサービスを組み合わせて、まとまりのある、パフォーマンスの高い、管理しやすい環境を実現します。Cluster Director は、NVL72 ドメインにおけるプロビジョニングから、トポロジを考慮した配置、強力な可観測性と耐障害性の提供まで、A4X Max クラスタのライフサイクル全体を管理します。Managed Lustre などの最適化されたストレージソリューションと統合されており、事前構成されたマネージド Slurm 環境は、A4X Max のフォールトトレラントでスケーラブルなジョブスケジューリングを提供します。Cluster Director は、GPU、NVLink、DC ネットワーキングファブリック全体にわたるジョブとシステムパフォーマンスの詳細なオブザーバビリティも提供します。スループットを最大化するために、Cluster Director は、自動ストラグラー検出やジョブ内復元などの機能で高い信頼性を確保します。トポロジを考慮したスケジューリング、メンテナンス管理、障害のあるノードの報告などの Cluster Director 機能も、Google Kubernetes Engine（GKE）を通じて透過的に利用できるため、お客様は A4X Max を実行しながら GKE 環境に留まることができます。

これらの変更がワークロードにもたらすメリット:

推論の最適化: 72 個の GPU を備えた NVLink ドメインにより、A4X と比較して 1.5 倍の FP4 FLOP、1.5 倍の HBM メモリ容量、2 倍のネットワーク帯域幅を実現する A4X Max は、低レイテンシの推論、特に最大規模の推論モデルに特化して設計されています。GKE Inference Gateway と統合すると、プレフィックス対応のロードバランシングのメリットが得られ、プレフィックスを多用するワークロードの最初のトークンまでのレイテンシが短縮されます。また、分離型サービングを有効にすることで、パフォーマンスをさらに最適化できます。これは、推論ゲートウェイ、llm-d、vLLM を組み合わせて活用することで実現され、スループットが大幅に向上します。
トレーニングとサービングのパフォーマンスの強化: GB300 NVL72 システムあたり 1.4 エクサフロップを超える性能を備えた A4X Max は、NVIDIA H100 GPU 搭載の A3 VM と比べて、LLM のトレーニングとサービングのパフォーマンスが 4 倍向上しています。
最大のスケーラビリティと並列化: RDMA over Converged Ethernet（RoCE）を基盤とする A4X Max のネットワーキングファブリックは、分散トレーニングと分離型サービングワークロード向けに、低レイテンシで高性能な GPU 間コレクティブを提供します。新しいデータセンタースケーリング設計を活用することで、A4X Max クラスタは A4X クラスタの 2 倍の規模に拡張できます。

A4X Max インスタンスのプレビューは、NVIDIA RTX PRO 6000 Blackwell Server エディション GPU を搭載した新しい G4 VM と NVIDIA Omniverse ライブラリのサポートに続くものです。これらの取り組みを総合すると、あらゆる AI ワークロードに対応するエンドツーエンドのプラットフォームを提供するという Google のコミットメントが明確になります。さらに、NVIDIA とのパートナーシップを深めることで、次世代の AI を支える強力で包括的なエコシステムを実現します。

GKE DRANET で RDMA のパフォーマンスが向上

本日、Google は、A4X Max を皮切りに、マネージド DRANET を本番環境にデプロイします。DRANET は、GPU と RDMA ネットワークインターフェースカードのトポロジを認識したスケジューリングを可能にすることで、分散 AI/ML ワークロードにおける all-gather および all-reduce オペレーションのバス帯域幅を向上させます。これにより、VM の利用率が向上し、費用対効果が高まります。これは、RDMA デバイスと GPU の接続が可能な限り最適なノードに GKE Pod をスケジュールすることで実現されます。DRANET は、RDMA デバイスを GKE 内のファーストクラスのネイティブリソースとして扱うことで、RDMA 管理を簡素化します。GKE の DRANET の詳細については、こちらをご覧ください。

GKE と NVIDIA NeMo Guardrails

組織が AI モデルを本番環境にデプロイする際には、安全性、セキュリティ、責任ある動作を確保する必要があります。このたび、NVIDIA NeMo Guardrails と GKE Inference Gateway の統合を発表いたします。GKE Inference Gateway は、生成 AI アプリケーションの提供を目的として GKE Gateway を拡張したものです。

GKE Inference Gateway は、モデル対応ルーティングや自動スケーリングなどの機能でモデル提供を最適化します。一方、NeMo Guardrails は安全面で重要なレイヤを追加し、モデルが望ましくないトピックに関与したり、悪意のあるプロンプトに応答したりすることを防ぎます。これらを組み合わせることで、安全でスケーラブルかつ管理しやすい推論ソリューションが実現し、AI イニシアチブを加速させることができます。

Vertex AI Model Garden に NVIDIA Nemotron モデルが追加

デベロッパーの選択肢とパフォーマンスを向上させるため、 Vertex AI Model Garden は、NVIDIA NIM マイクロサービスとして NVIDIA の Nemotron ファミリーのオープンモデルをまもなくサポートする予定です。この統合により、NVIDIA Llama Nemotron Super v1.5 モデルの提供開始を皮切りに、デベロッパーや組織は Vertex AI 内から直接 NVIDIA の最新のオープンウェイトモデルにアクセスできるようになります。Vertex AI のマネージドデプロイを使用すると、パフォーマンス、費用、コンプライアンスを管理しながら、Nemotron モデルを搭載したカスタム AI エージェントを迅速に開発、デプロイできます。

Vertex AI を通じてデプロイされたモデルには、次のようなメリットがあります。

デプロイに対してきめ細かい制御が可能で、幅広いマシンタイプや Google Cloud リージョンを選択することで、パフォーマンスやコストを最適化できます。
モデルを完全に独自の VPC 内にデプロイし、VPC-SC ポリシーを遵守することで、堅牢なセキュリティを実現します。
使いやすさは抜群で、最先端のモデルを数回クリックするだけで発見、ライセンス取得、デプロイできます。

NVIDIA NeMo との統合による Vertex AI Training

Vertex AI Training は、企業が基盤モデルを自社データに適応させるために必要な制御と柔軟性を提供します。Google では、高精度のプロプライエタリモデルをより迅速に作成できるよう、大規模モデルの開発への道を簡素化し、加速する Vertex AI Training の拡張機能を発表します。

お客様は、大規模なトレーニングを簡素化する、フルマネージドで復元力のある Slurm 環境を利用できます。自動化された復元機能により、クラスタの稼働時間が向上し、Google の包括的なデータサイエンスツールにより、複雑なモデル開発における推測の多くが不要になります。最後に、NVIDIA NeMo や NeMo-RL などの標準化されたフレームワーク上に構築された、キュレート済みかつ最適化された事前・事後トレーニングのレシピにより、開発者は新しいアイデアから本番環境に対応したドメイン特化型モデルへの移行を、より迅速かつ効率的に行うことができます。

次のステップ

これらのアップデートにより、AI ワークロードを実行するための Google Cloud プラットフォームの機能性と柔軟性がさらに強化されます。Google Compute Engine または Cluster Director を使用した GKE による Infrastructure as a Service（IaaS）の柔軟性と制御、あるいは、モデルのトレーニング、チューニング、管理のための安全でスケーラブルかつ簡素化されたワークフローを提供する Vertex AI のフルマネージドエンドツーエンドエクスペリエンスのいずれかを選択できます。

これらのインフラストラクチャのイノベーションは、AI の開発とデプロイのための完全なプラットフォームを提供するという Google の使命を大きく前進させるものです。Google Cloud のインフラストラクチャと NVIDIA の最新テクノロジーを組み合わせることで、次世代の AI アプリケーションを構築するための強固な基盤が提供されます。

A4X Max プレビューの利用を開始するには、Google Cloud の営業担当者にお問い合わせください。一方、Vertex AI Training には、モデルをビジネス上の優位性を定義する独自の資産に変えるために必要なものがすべて揃っています。エンタープライズグレードのセキュリティと効率性で AI モデルを大規模にデプロイ、管理するには、GKE Inference Gateway が推論ワークロードの処理にどのように役立つかをご覧ください。皆様がどのようなものを構築されるか楽しみにしております。

-コンピューティングおよび AI Infrastructure 担当、バイスプレジデント兼ゼネラルマネージャー Mark Lohmeyer

コンピューティング

AI インフラストラクチャの効率: Ironwood TPU で炭素効率が 3.7 倍向上

AI アクセラレータの効率を測定: コンピューティング二酸化炭素排出原単位（CCI）

Ironwood のメリット: 高パフォーマンス、低フットプリント

Google の TPU フリートの運用効率がさらに向上

エネルギーと排出量をパフォーマンスから切り離す

Google Cloud でサステナブルにスケーリング

Ironwood TPU を使用したトレーニングに関するデベロッパー ガイド

Ironwood の主な最適化戦略

Ironwood のメリット: システムレベルのパフォーマンス

Google Cloud と NVIDIA が GTC 2026 で業界全体に AI イノベーションを拡大

G4 VM で AI ワークロードを高速化

分割式 G4 VM の導入

NVIDIA Vera Rubin NVL72 で AI Hypercomputer をスケーリング

AI インフラストラクチャ スタック全体で効率性を実現

Vertex AI のトレーニングと Model Garden の進化

公共部門向けの AI スタートアップを支援

共同エンジニアリングのコラボレーションが AI スタックのあらゆるレイヤを強化

H4D VM の一般提供開始: HPC ワークロード向けに卓越したパフォーマンスとスケーリングを実現

ドメインや規模を問わず、解決までの時間を短縮

HPC のコスト パフォーマンスの新たな基準

包括的な HPC 管理

お客様とパートナー様の声

今すぐ H4D を体験

課金の簡素化と費用削減: 新しい費用ベースの CUD に関する FinOps ガイド

1. 費用ベースの CUD データモデルの変更内容

2. 変更前後の節約額を検証する方法

3. 新しい CUD 分析の他の機能

4. どの程度のコミットメントを購入すべきか

5. フレキシブル CUD についての関連情報

Save more with expanded coverage for Compute Flex CUDs

NVIDIA RTX PRO 6000 により、Cloud Run 上で高性能推論とサーバーレス コンピューティングが融合

強力な GPU プラットフォーム

使ってみる

一般提供が開始された Axion ベースの N4A VM で費用対効果が 2 倍に

汎用コンピューティングを再定義し、AI 推論を可能にする

カスタム マシンタイプと Hyperdisk によるきめ細かな制御

お客様の選択肢を広げる Arm ベースの Axion ポートフォリオの拡大

今すぐ N4A を使ってみる

Google Cloud A4X（GB200）と NVIDIA Dynamo を使用した WideEP Mixture-of-Experts 推論のスケーリング

最新の推論スタック

インフラストラクチャ レイヤ: A4X ラックスケール アーキテクチャ

サービング レイヤ: NVIDIA Dynamo

オーケストレーション レイヤ: ソフトウェアとハードウェアのマッピング

パフォーマンスの検証

今後の対応

使ってみる

VM OS エージェントの大規模な管理を簡素化: VM Extensions Manager のご紹介

VM Extensions Manager の使用を開始する方法

標準化と管理のための柔軟なシステム

貴社のインフラストラクチャは AI エージェントに対応していますか？

エージェントの時代の TCO 危機

ギャップを埋める方法: 断片化したスタックから統合されたシステムへ

Google Cloud からのメッセージ

Cluster Director による AI および HPC クラスタ自動化の一般提供を開始

Cluster Director の一般提供を開始

Cluster Director によるデプロイの各フェーズのサポート

GKE 上の Slurm 向け Cluster Director サポートのプレビュー版をリリース

今すぐ Cluster Director をお試しください

「The Forrester Wave™: AI Infrastructure Solutions, Q4 2025」で Google がリーダーに

統合システムで価値創出までの時間を短縮

AI の費用と複雑さの管理

柔軟性と選択肢による戦略的リスクの軽減

信頼できるシステム

構築に安全な基盤

継続的な AI イノベーションの実現

N4D の一般提供を開始: スケールアウト型ワークロードのコスト パフォーマンスが最大 3.5 倍に

コスト パフォーマンスの新たな基準

C4D マシンシリーズを補完

カスタム マシンタイプと Hyperdisk の利点

N4D を今すぐ利用開始

Axion C4A メタルを発表: 特殊なユースケース向けの Arm ベースの Axion インスタンス

自動車ワークロードのアーキテクチャ パリティ

Android 開発でテストと本番環境を一致させる

妥協のないベアメタル アクセス

連携のメリット: Axion C シリーズと N シリーズ

プレビュー版を近日提供予定

STAC Summit NYC での Google Cloud と AMD: 金融業界向けの H4D VM

金融サービス向けの H4D VM

H4D: 金融ワークロードに優れたパフォーマンス

Ironwood TPU を使用したトレーニングに関するデベロッパーガイド

AI インフラストラクチャスタック全体で効率性を実現

HPC のコストパフォーマンスの新たな基準

NVIDIA RTX PRO 6000 により、Cloud Run 上で高性能推論とサーバーレスコンピューティングが融合

カスタムマシンタイプと Hyperdisk によるきめ細かな制御

インフラストラクチャレイヤ: A4X ラックスケールアーキテクチャ

サービングレイヤ: NVIDIA Dynamo

オーケストレーションレイヤ: ソフトウェアとハードウェアのマッピング

N4D の一般提供を開始: スケールアウト型ワークロードのコストパフォーマンスが最大 3.5 倍に

コストパフォーマンスの新たな基準

カスタムマシンタイプと Hyperdisk の利点

自動車ワークロードのアーキテクチャパリティ

妥協のないベアメタルアクセス

あらゆる金融サービスソリューション

Google Cloud の RL に対するフルスタックアプローチ

TPU「Ironwood」の一般提供開始と推論時代を支える新しい Axion VM を発表

Ironwood：モデルトレーニングから惑星規模の推論への最短経路

システムレベルの設計で推論パフォーマンス、信頼性、コストを最大化