スケーラブルな AI クラウドを実現するために、NVIDIA DSX™ Platform で Red Hat AI をデプロイ

AI クラウドは初期のパイロットテストを超えて進化しており、現在の課題は物理ハードウェアの構成だけではありません。組織は、脆弱なカスタムコードや複雑なソフトウェア調整に頼ることなく、予測可能な運用コスト、最新のコンピュータチップへのアクセス、継続的なプラットフォームのアップデートを提供する効率的な共有プラットフォームの運用に注力する必要があります。

私たちは、DSX プラットフォームの一部である NVIDIA DSX OS™ ソフトウェアを Red Hat AI と統合することで、NVIDIA クラウドパートナー (NCP) が要求する信頼性、スケーラビリティ、オペレーショナル・エクセレンスを提供しながらイノベーションを加速する AI クラウド用のデプロイメント・フレームワークを共同開発しています。DSX OS のソフトウェア・コンポーネントである NVIDIA Infra Controller (NICo) を統合することで、オペレーターは自動化されたベアメタル・プロビジョニングを活用してライフサイクル管理を容易化かつ単純化でき、セキュアなマルチテナント型の収益源を迅速に確立できます。

生成 AI の時代は、データセンターがトークンの形式でインテリジェンスを継続的に生み出す産業エンジンとして機能する、エージェント型 AI ファクトリーの時代へと進化しました。AI クラウドチームとインフラストラクチャチームがこれらの環境をメガワットからギガワットへと拡張するにつれて、成功の鍵は実験やパイロットではなく、運用効率、ワットあたりのトークン数、トークンあたりの総コストにかかっています。

NVIDIA DSX Platform のコアコンポーネントであるオープンソースの DSX OS ソフトウェアは、マルチテナント AI クラウドの効率的な運用およびスケーリングを目的として設計されています。  NVIDIA AI Cloud Ready の初代認定パートナーとして、Red Hat は Red Hat AI と DSX を組み合わせて、AI クラウドが必要とするビジネスクリティカルな機能を提供し、大規模なデプロイと管理を可能にします。

NVIDIA のアクセラレーテッド・ハードウェアとリファレンス設計を、Red Hat AI の認定済み、検証済み、かつ信頼性の高いプラットフォームと組み合わせることで、完全に統合された AI ファクトリーとモデルコンテキストプロ​トコル (MCP) ツールの実行に関するベンチマークを確立しています。ここでは、この「Better Together」のストーリーを実現する共同開発の取り組みをご紹介します。

基盤：Project Voyager によるゼロデイアーキテクチャ

AI ファクトリーの最適化の度合いは、それを支える基盤となる運用レイヤーに左右されます。インフラストラクチャのデプロイを数カ月遅らせる可能性のあるリスクの高いカスタム開発を排除するために、Red Hat と NVIDIA は Red Hat Enterprise Linux for NVIDIA を通じて、Day 0 プラットフォームのサポートをオペレーティングシステムに直接組み込みました。

専任の CentOS Special Interest Group (Accelerated Infrastructure Enablement SIG) を通じて、両社は Grace Blackwell や Vera Rubin などの高度な NVIDIA プラットフォームに向けた、カーネルレベルの緊密な統合、自動ドライバー署名、アップストリームのコードパスを共同開発しています。この共同開発されたパイプラインは、最新の半導体の性能への即時アクセスと、Red Hat Enterprise Linux にお客様が期待する本番環境での安定性、堅牢なセキュリティ、そして予測可能なライフサイクルを両立させています。

効率性の推進：優れた運用とライフサイクル

ギガワット規模の AI ファクトリーを運用するには、数千のマルチテナントノードを対象とする、継続的で監査可能かつセキュアな管理が必要です。Red Hat AI は、DSX OS のライフサイクルおよびプロビジョニング・コンポーネントと直接統合することで、これらの AI クラウド・インフラストラクチャのニーズに対応します。

• NVIDIA Infra Controller™ (NICo)：大規模な DPU デプロイメントの管理は、運用上の大きな課題となります。 NICo には NVIDIA DOCA™ Platform Framework (DPF) が含まれており、これは、エンドツーエンドの NVIDIA BlueField DPU プロビジョニングとライフサイクル管理を提供します。NICo を Red Hat OpenShift と統合することで、ベアメタルのライフサイクル管理は完全に API 駆動型になります。NVIDIA BlueField-3 により、両社の共同アーキテクチャは、Red Hat OpenShift コントロールプレーンから直接管理される、セキュアで、かつハードウェアで分離されたマルチテナント IaaS 境界を適用します。
• NVIDIA AI Cluster Runtime (AICR)：構成ドリフトは、予期しないジョブ失敗の主な原因です。 AICR は、バージョン管理および検証済みの構成レシピを適用することでこのドリフトを防ぎます。Red Hat は、緊密なアップストリームのコラボレーションを通じて、Red Hat OpenShift 上の AICR コンポーネント (Node Feature Discovery、NVIDIA GPU Operator、Network Operator など) に対する In-tree (ツリー内) の Helm テンプレート形式の統合を提供し、グローバルなデプロイメント全体でソフトウェアの整合性を確保します。

自動化されたレジリエンシー高密度 GPU フリートでのダウンタイムを排除

数万もの GPU を備えた環境では、すべてのノードにわたる継続的な健全性の可視化が日常の運用において不可欠です。手動のアラートループでは復旧時間が遅延し、電力や演算リソースが無駄に消費されます。DSX OS の健全性の自動化機能を Red Hat OpenShift と組み合わせることで、AI クラウドのオペレーターは人的な介入なしにシステムの異常をリアルタイムで自動的に検出し、隔離し、修正できます。

• NVIDIA NVSentinel：Red Hat と NVIDIA は、Red Hat OpenShift 上の NVSentinel デプロイメントを検証しています。カスタム OpenShift マニフェストと自動化スクリプトを利用して、NVSentinel は Kubernetes ネイティブの GPU 障害検出機能を提供します。重大なハードウェアやドライバーのイベントを検出すると、侵害されたノードを自動的に隔離し、ワークロードを正常なノードに再割り当てしてジョブを保護します。
• NVIDIA Fleet Intelligence：Red Hat OpenShift ノード上で Fleet Intelligence エージェントを実行することで、クラスタのテレメトリを継続的に収集して Grafana ダッシュボードに集約できるようになり、運用チームはハイブリッドクラウド環境全体をリアルタイムで可視化できます。

デプロイ前の検証：NVIDIA DSX Air でデジタルツインを構築

物理ハードウェアをデプロイする前に、アーキテクトはデータセンターのコンピューティング、ネットワーキング、スイッチ構成をシミュレートする Software-as-a-Service (SaaS) プラットフォームである NVIDIA DSX Air を使用して、運用ワークフローをモデル化し、検証できます。Single Node OpenShift などの軽量な Red Hat フットプリントを DSX Air に統合することで、AI クラウド・エンジニアリング・チームは、変更を本番環境に適用する前に、マルチテナント・ネットワークのトポロジーを安全にシミュレートし、BGP ルーティングをテストし、仮想ノード上で Day 2 ソフトウェア・アップグレード・スクリプトを検証できます。  

エージェント型の運用：マルチテナント AI クラウドでのモデルコンテキストプロ​トコル (MCP) の保護

NVIDIA DSX OS は、ドメイン固有の Model Context Protocol (MCP) サーバー を通じてデータセンターのテレメトリと運用制御を提示し、AI エージェントに統合されたツールカタログを提供します。Red Hat AI は、OpenShift 内に namespace 単位のアクセス制御とゼロトラスト・セキュリティ境界を確立することで、このエージェント層を管理します。OpenShift ネイティブのロールベースのアクセス制御 (RBAC)、マルチテナンシー、監査ログを使用することで、検証済み MCP サーバーにより、自律型のエージェントは管理者権限を超過したり、運用リスクをもたらしたりすることなく、クラスタのメトリクスを安全にクエリし、ログを検査し、(温度の急上昇とネットの接続切れの相関関係の特定などの) 根本原因分析を支援できます。

まとめ：スケーラブルな AI クラウドと AI ファクトリー向けのソリューション

AI ファクトリーの構築は、脆弱な連携コードやカスタムドライバーの接続でつなぎ合わされた実験的プロジェクトのようなものであってはなりません。Red Hat と NVIDIA のパートナーシップの真の価値は、ハードウェアのイノベーションを、企業と NVIDIA Cloud Partner (NCP) の両方にとって予測可能で強化された事前検証済みのソリューションへと変えることにあります。

NVIDIA DSX OS アーキテクチャを Red Hat AI の検証済みセキュリティおよび運用境界と組み合わせることで、本番環境チームは AI クラウドを大規模にデプロイするための本番環境対応プラットフォームを得ることができます。ゼロデイのハードウェアサポートから NVSentinel によるフリートの自動修正に至るまで、この AI クラウドプラットフォームにより、NCP は基盤となるプラットフォームの複雑性を管理するというオーバーヘッドを生じさせることなく、イノベーションを迅速化できます。

Red Hat AI Factory with NVIDIA は、NVIDIA のアクセラレーテッド・コンピューティング、ネットワーキング、ソフトウェアを使用して AI ファクトリーを構築し、デプロイし、管理するためのエンタープライズグレードの AI ソリューションです。Red Hat AI Factory with NVIDIA は、Red Hat AI Enterprise の機能と NVIDIA AI Enterprise ソフトウェアを組み合わせて、反復可能でスケーラブルかつセキュアなエンタープライズ AI ファクトリーをデプロイします。

Red Hat と NVIDIA が、エンタープライズ環境およびクラウド規模のデプロイメント向けに、先進的でセキュアかつ完全に自動化された AI ファクトリーの標準をどのように共同開発しているかをご確認ください。 両社の戦略的パートナーシップおよび共同ソリューションについてはこちらをご覧ください。

Red Hat AI Factory with NVIDIA の詳細