NVIDIA DGX Spark 上の RHEL によるローカル AI 開発の強化

企業が生成 AI のブームから、ガバナンスが確立された実運用可能な AI アプリケーションの構築へと移行するにつれ、いくつかの新たな課題が浮上しています。現在、多くの企業ではすべてのプロンプトを大規模なクラウドベースの LLM に送信していますが、これにより過剰なコスト、高いレイテンシ、そして不必要なデータ漏洩が生じる可能性があります。 

この問題を解決するために、Red Hat は NVIDIA と協力して、エンタープライズグレードの AI 開発を開発者のデスクに直接提供します。このたび、 NVIDIA DGX Spark における Red Hat Enterprise Linux 10 (RHEL 10) の開発プレビューを発表できることを嬉しく思います。 

NVIDIA GB10 Grace Blackwell アーキテクチャを搭載した NVIDIA DGX Spark は、最大 1 ペタフロップスのパフォーマンス、FP4 データ形式のサポート、128GB の統合メモリを備えています。このハードウェアを Red Hat の信頼できるオペレーティングシステムや開発者ツールと組み合わせることで、エッジ環境における内部開発ループやローカルなエージェント型 AI ワークロードを可能にする、高性能な AI 開発者向けワークステーションを提供します。 

この組み合わせにより、開発者は、Red Hat Desktop などの使い慣れたツールを使用して、複雑なエージェント型ワークフローをローカルで構築、テスト、評価した後、それらのワークロードを本番環境に展開することができます。  

これが重要な理由とは？

NVIDIA DGX Spark 上の RHEL を活用することで、私たちはエンタープライズ AI 導入における主な障壁に取り組んでいます。

• コスト管理とデータ主権：機密性の高いトラフィックをローカルに保持し、中 - 低複雑度のタスクに小型言語モデル (SLM) を活用することで、企業はクラウド API のコストを削減しつつ、機密データをローカルのワークステーション内に限定することができます。さらに、NVIDIA DGX Sparkの128GB の統合メモリにより、大規模言語モデル (LLM) のホスティングが可能となり、モデル開発中のクラウドコストをさらに削減するのに役立ちます。 
   
• 評価主導の開発： 自律型 AI エージェントは非決定的であるため、標準的な単体テストでは不十分です。NVIDIA DGX Spark 上で RHEL を実行することで、厳密なテストを行うための究極のサンドボックスが提供されます。開発者は、組み込みの MLflow インスタンスを使用して「グラスボックス」方式の軌道追跡を行い、ツール呼び出しやモデルクエリをより効果的にキャプチャし、本番環境にデプロイする前に LLM-as-a-Judge による評価をローカルで実行できます。
   
• コアからクラスタまでの一貫性：基盤となる OS として RHEL を標準化することで、開発者はインフラストラクチャの摩擦を心配することなくアプリケーションの構築に集中できます。RHEL は本番環境の安定性と開発者の俊敏性を兼ね備えており、ハイブリッドクラウド環境や業界をリードするチップアーキテクチャ全体でアプリケーション開発を加速させます。さらに、ローカルワークステーションでの開発から Red Hat OpenShift 上での大規模なデプロイへの移行が、より効率的で予測可能なパイプラインとなります。

AI の未来はハイブリッドであり、それは開発者のデスクから始まります。NVIDIA DGX Spark 上の RHEL 10 の開発者プレビュー、およびこれが AI 導入プロセスの加速にどのように役立つかについて、Red Hat の担当者にお問い合わせください。