AI の未来が可搬性のあるオープンな PyTorch エコシステムにかかっている理由

このブログは、PyTorch Day India での基調講演を翻案したものです。

オープンソース・テクノロジーかプロプライエタリー・テクノロジーかという議論では、特に AI の分野においては、オープンソースに軍配が上がります。しかし、生成 AI の時代が進むにつれ、古い課題が新たな形をとって表れてきています。業界が圧倒的なスピードで変化している一方で、基盤となるインフラストラクチャの多くは断片化されたままであったり、プロプライエタリーな技術によって囲い込まれたままになったりしています。AI がこれまでにない可能性を解き放つための鍵であるならば、データセットやトレーニング・パイプラインからインフラストラクチャやサービス提供レイヤーまで、あらゆるレイヤーでオープンでなければなりません。

そのようなオープンな未来に対して、Red Hat は「あらゆるモデルをあらゆるアクセラレーターやあらゆるクラウドで」という明確なビジョンを掲げています。このビジョンを現実のものとするため、Red Hat は、最大の効果を上げることに重点を置いたオープンソース・コミュニティに積極的に参加しています。その 1 つが PyTorch コミュニティです。PyTorch はあらゆる企業で、使用しているハードウェア・プロバイダーやクラウドプロバイダーに関係なく、柔軟性、スケーラビリティ、そして何よりもアクセシビリティを向上させる原動力となることができます。AI のイノベーションが民主的なものであり続けるためには、ユーザーが自分たちの特定のニーズに最適なツールやハードウェアを選択できる自由を守る必要があります。

主体性、民主性、選択性を念頭に置いた構築

現在、AI に関する話題の多くは、大規模な「フロンティア」モデルが中心となっています。これらのモデルは優れているものの、規模や複雑さの面から扱いが難しいうえに管理コストも高額になりやすく、多くの場合、電力を非常に多く消費する最新の GPU が必要です。そして、それが導入の障壁となってイノベーションを阻害しています。これから先の道を切り開くのはコンポーザブルなインテリジェントです。コミュニティでそれを可能とするために、Red Hat は vLLM Semantic Router を作成しました。これはインテントに基づいてリクエストをルーティングするインテリジェントなトラフィック・コントローラーとして機能するツールであり、アクセスしやすい効率的なインフラストラクチャを使用して高度な推論を行えるようにします。Red Hat はこれによってオープンソース・コミュニティがエージェント型開発を実際に行えるようにし、一元化されたモノリシックなシステムではなく、より分散したコラボレーティブなモデルで AI の力を引き出すことができるようにすることを目指しています。

どんな AI 戦略でも、その中心にあるのは、モデルが実際にユーザーと接するレイヤーである推論サーバーです。推論レイヤーがオープン性を保ち、優れた性能を発揮できるよう、Red Hat は、PyTorch Foundation が管理するプロジェクトの中でも特に重要なものの 1 つである vLLM の中核的なコントリビューターとなっています。AI を拡張してグローバル企業のニーズを満たすという精神に基づき、Red Hat は vLLM プロジェクトにおいて、モデルを提供するソフトウェアにもモデルそのものと同じ可搬性を持たせることに特化した取り組みを行っています。これは具体的にどのようなことをしているのかというと、手短に言えば、モデルリリース直後の Day 0 に vLLM を使えるようにすることに優先的に取り組み、単一ノード以上の環境におけるパフォーマンスを視野に入れ、llm-d プロジェクトを共同で立ち上げました。また、プレフィルやデコードなどのコアコンポーネントを分離することにより、先進的な企業の分散型ハイブリッド環境に適応した、モデル提供のためのスケーラブルでオープンな標準の構築を支援しています。

AI に関しては、ソフトウェア以外にも、ハードウェアの不足とコストが依然として大きな障害となっています。主体性を得るためにソフトウェアをあきらめたり、ソフトウェアがハードウェア選択の障害になったりすることがあるべきではありません。だからこそ、Red Hat は PyTorch があらゆる環境でシームレスに動作できる未来を支持し、さまざまなアクセラレーターをサポートする PyTorch エコシステムの開発に投資しています。このエコシステムには以下が含まれます。

• vllm-cpu：業界をリードする同業他社とのコラボレーションにより、既存の CPU で高性能推論を行えるようにしています。これは、コストと電力が大きな制約となるユースケースに不可欠です。
• OpenReg： このプロジェクトでは、PyTorch コアに複雑な変更を加えることなく、省電力化された新しいハードウェアを迅速に使えるようにするフレームワークを作成します。
• 先進的なカーネル：Red Hat は、Helion や Triton などのプロジェクトを通じて、基盤となるチップの種類に関係なくさまざまなアクセラレーターを対象として開発できるよう、その方法の単純化を支援しています。

これらの投資により、PyTorch コミュニティは最も汎用性が高く、ハードウェアに依存しない AI 開発のホームグラウンドであり続けます。

グローバル企業のために PyTorch を強化

AI を実験ラボから世界中の銀行、航空会社、病院で利用されているようなミッションクリティカルなプロダクション環境へと移行させるには、極めて高い信頼性が必要です。PyTorch プロジェクトの世界第 3 位のコントリビューターとして、Red Hat は新機能の開発だけではなく、企業向けの強化にも注力しています。当社のチームは、Torch.Compile 内で見つかった 60 を超える問題を修正して、高負荷ワークロードでも安定して処理できるようにし、さらに、公式 PyTorch アップストリームの CI に Red Hat Enterprise Linux (RHEL) を統合しました。当社による PyTorch への貢献は、すべての組織がオペレーティングシステムと同じように信頼できる AI をデプロイできるようにするために行われています。

アクセス、主体性、自由の原則により、私たちは互いのアイデアを活用し、単一の組織では不可能なスピードでテクノロジーを進歩させることができます。Red Hat は、あらゆるモデル、あらゆるアクセラレーター、あらゆるクラウドで世界がその可能性を最大限に引き出すのに必要な、オープンなエンタープライズ対応の基盤の構築に全力で取り組んでいます。