本シリーズのパート I とパート II で、Red Hat は、効率的な推論が経済的な必然性となりつつある理由と、ソブリン AI にインフラストラクチャの独立性が必要とされる理由を考察しました。しかし、AI を支えるインフラストラクチャを構築すべきなのは誰なのでしょうか。

AI インフラストラクチャは、パフォーマンスをはるかに超える影響を及ぼします。AI インフラストラクチャは、組織が新しいハードウェアをどれだけ迅速に採用し、最新のモデルを統合し、AI 機能が進化し続ける中で適応できるかを決定付けます。

1 社単独で対応するには速すぎる AI の進化

AI テクノロジーのすべてのレイヤーが同時に変化しています。新しい基盤モデルが絶え間なくリリースされ、アクセラレーターのベンダーは新たなアーキテクチャを導入し続けており、組織はパブリッククラウド、プライベートクラウド、エッジ環境、オンプレミス・インフラストラクチャにわたって AI をデプロイしています。

単独の会社がそのエコシステムのあらゆる領域でイノベーションを起こすことは不可能であり、またそうする必要もありません。どの組織も当然ながら、自社の製品、顧客、ロードマップを優先します。しかし企業には、単一ベンダーの優先事項に対応するだけでなく、より広範なエコシステムと共に進化できるインフラストラクチャが必要です。

オープンソース AI が進むべき道 

オープンソースは、コラボレーションとイノベーションの共有に向けた中立的なエコシステムを生み出します。

オーケストレーション、スケジューリング、可観測性、相互運用性の同じ課題を個別に解決するのではなく、組織は独自の価値を生み出し続けながら、オープンな環境で協力して課題に取り組みます。その結果、より高い回復力と適応性を備え、AI の需要に合わせて進化する態勢が整ったソフトウェアが生まれます。

この協調的なモデルは、すべての関係者にメリットをもたらします。ハードウェアベンダーはより広範なプラットフォームのサポートを得ることができ、クラウドプロバイダーは柔軟性を高め、ソフトウェア会社は基盤機能の再構築に費やす時間を短縮でき、企業は単一ベンダーのロードマップに縛られることなく新しいテクノロジーを自由に採用できるようになります。

llm-d の事例

llm-d は、オープンソース AI の力を実証するものです。CoreWeave、Google、IBM、NVIDIA、Red Hat をはじめとするオープンソース・コントリビューターの強力な陣営によって開発された llm-d は、高いパフォーマンス水準を維持しながら、多様化が進む環境全体で推論を効率的にオーケストレーションするという、エンタープライズ AI における最も重要なインフラストラクチャの課題の 1 つに取り組んでいます。

コミュニティによる改善が行われるたびに、他者が採用し、拡張し、改善できる共有基盤が強化されます。llm-d は、新たなプロプライエタリーのサイロを生み出すのではなく、時間の経過とともにイノベーションが相乗的に積み重なる、相互運用可能なエコシステムの構築を支援します。

コミュニティが生み出す回復力

AI は今後も変化し続け、新しいモデル、新しいハードウェア、新しいデプロイメントパターンによって、組織によるインテリジェントなアプリケーションの構築手法が刷新されていきます。次にどのような飛躍的進歩が訪れるかは誰にも予測できません。だからこそ、オープンソースを通じて構築された AI は、長期にわたって持続可能な AI となるのです。 

llm-d のようなプロジェクトは、最も回復力に優れたインフラストラクチャとは、単一の会社が所有するものではなく、コミュニティによって強化されるものであることを実証しています。共通の課題を共に解決することで、オープンソース・エコシステムは、組織にとってますます価値の高いもの、すなわち適応の自由を提供するソフトウェアを生み出します。

さらに詳しく 

Red Hat の Brian Stevens と Robert Shaw が、組織や企業が共通の AI 課題を解決するためにオープンソース・エコシステムに注目している理由について語ります。

本シリーズの過去の記事をご確認ください。

パート I:llm-d:Breaking the cost and capacity barriers

パート II:Scaling agentic AI:How llm-d enables infrastructure sovereignty

リソース

AI 推論を始める

よりスマートで効率的な AI 推論システムの構築方法について説明します。Red Hat AI と量子化、スパース性、vLLM などの高度な技術について学びましょう。

執筆者紹介

Pete serves as the Principal Community Architect for AI within Red Hat’s Open Source AI Program Office (OSAIPO). In this role, he drives community development and engagement for Red Hat’s open source AI initiatives, including key projects like llm-d. Pete helps scale Red Hat’s contributions to AI by supporting the open source communities and developers working to advance these technologies.

UI_Icon-Red_Hat-Close-A-Black-RGB

チャンネル別に見る

automation icon

自動化

テクノロジー、チームおよび環境に関する IT 自動化の最新情報

AI icon

AI (人工知能)

お客様が AI ワークロードをどこでも自由に実行することを可能にするプラットフォームについてのアップデート

open hybrid cloud icon

オープン・ハイブリッドクラウド

ハイブリッドクラウドで柔軟に未来を築く方法をご確認ください。

security icon

セキュリティ

環境やテクノロジー全体に及ぶリスクを軽減する方法に関する最新情報

edge icon

エッジコンピューティング

エッジでの運用を単純化するプラットフォームのアップデート

Infrastructure icon

インフラストラクチャ

世界有数のエンタープライズ向け Linux プラットフォームの最新情報

application development icon

アプリケーション

アプリケーションの最も困難な課題に対する Red Hat ソリューションの詳細

Virtualization icon

仮想化

オンプレミスまたは複数クラウドでのワークロードに対応するエンタープライズ仮想化の将来についてご覧ください