見えないものが招くコスト：エンタープライズ AI におけるオープンソースの重要性

前回の記事では、AI 推論について、AI プロジェクトの神経システム、つまりユーザーエクスペリエンスを左右する、重要でありながら通常は目に見えないインフラストラクチャに例えて説明しました。チャットボットでも複雑なアプリケーションでも、原則は同じです。神経システムが機能不全に陥れば、他のすべてが機能不全に陥ります。 

しかし、ご存じのとおり、神経システムは単独では機能しません。それは体の他の部分に依存しており、他にも無数のシステムが連携して動作します。エンタープライズ AI も基本的にはこれと同じです。個々のモデル、分離されたインフラストラクチャ・コンポーネント、断片化されたオーケストレーション、分離されたアプリケーションは、それ自体では有意義な価値を提供できません。真の影響力は、これらの要素が結びついて、まとまりのある高性能な全体を形成したときにのみ生まれます。 

ブラックボックスのリスク

AI の導入にはさまざまな方法があります。企業によっては、クローズドな、いわゆる「ブラックボックス」システムから始めます。これらは、すぐに利用開始できる、事前にパッケージ化されたプラットフォームです。これらは優れたエントリーポイントになる可能性がありますが、トレードオフも伴います。モデルがどのようにトレーニングされたかが見えない場合、その動作を説明したり、バイアスに対処したり、独自のコンテキストで精度を検証したりすることは困難です。実際に 2025 年 IBM の調査では、ビジネスリーダーの 45% が、AI 導入の最大の障害としてデータの正確性またはバイアスを挙げていることがわかりました。システムの内部が見えなければ、結果を信頼することはできません。多くの場合、適応 (adaptation) は表面的な微調整やプロンプトのトリックに限定され、ビジネスニーズに合わせてモデルを形成することは困難です。

さらに重要な点として、これらのモデルをどこでどのように実行するかを制御することはほとんどできません。単一のプロバイダーのインフラストラクチャに縛られているため、デジタル主権を放棄し、他社のロードマップを受け入れざるを得ません。これらのトレードオフはすぐに明らかになります。たとえば、コストは最適化できず、エンドユーザーからの「なぜ」という質問に答えることができず、規制当局が機密データが処理される場所を尋ねた場合にコンプライアンスリスクが生じることなどが考えられます。 

これに対し、オープンソース・テクノロジーは、透明性と柔軟性に基づいた異なる道筋を提供します。つまり、各自が内部を確認し、独自のデータでモデルを適応させ、ビジネスに最適な環境でモデルを実行できます。vLLM や llm-d (推論の最適化)、および InstructLab (モデルの適応および微調整) などのコミュニティ主導のプロジェクトは、オープンなコラボレーションが選択と制御をどのように可能にするかを示す強力な例です。この種の制御は、AI 戦略を自ら主導するか、あるいは他社が代わりに主導していることに後になって気づくかの違いを生み出します。

Red Hat AI

Red Hat AI は、このような理念に基づいて開発されています。このポートフォリオは、AI の構築を支援するだけでなく、さまざまな要素が連携して機能するように設計された製品ポートフォリオです。最終的に、これらをどのように接続するかが、IT や AI 戦略のアジリティや、信頼性、主権の成否を左右するものとなります。

Red Hat の AI ポートフォリオには、以下が含まれます。

• Red Hat AI Inference Server： 一貫性のある高速でコスト効率の高い推論を提供します。そのランタイムである vLLM は、スループットを最大化し、レイテンシーを最小化します。最適化されたモデルリポジトリはモデルの提供を迅速化し、LLM コンプレッサーは精度を維持しながらコンピューティングの使用率を削減します。
• Red Hat Enterprise Linux AII： 個々のサーバー環境で LLM を実行するための基盤モデルプラットフォームを提供します。このソリューションには、推論のために最適化された不変の専用アプライアンスを提供する Red Hat AI Inference Server が含まれています。RHEL AI は OS とアプリケーションを共にパッケージ化することで、ハイブリッドクラウド全体でモデルの推論を最適化する Day-1 オペレーションを容易にします。
• Red Hat OpenShift AI：ハイブリッドクラウド環境全体で、AI 対応アプリケーションと予測モデルおよび基盤モデルを大規模に構築し、トレーニングし、調整し、デプロイし、監視するための AI プラットフォームを提供します。Red Hat OpenShift AI は、信頼できる AI ソリューションを実装する際に、AI のイノベーションを加速し、運用の一貫性を高め、リソースへのアクセスを最適化するのに役立ちます。 

オープンソース基盤の上に構築され、エンタープライズグレードのサポートに支えられた Red Hat AI は、データセンター、クラウド、エッジの環境間での AI コンポーネントのシームレスな連携を支援します。このアプローチにより、現在または将来の IT の意思決定を損なうことなく、あらゆるアクセラレーター、あらゆるクラウドで、あらゆるモデルを実行できます。

Red Hat AI を使用すると、必要なクラウドを選択し、必要なアクセラレーターを使用して、さらには既存のツールを拡張することができます。このプラットフォームは、今後の変化に対応するために必要な柔軟性を維持しながら、既存の環境に適応させることができます。

エコシステム全体での価値

パートナー向けには、Red Hat AI は、コストのかかる修正や中断なしに、お客様がすでに信頼している環境に直接導入できるソリューションを提供できる機能を提供します。企業に柔軟性をもたらすのと同じオープン性も、パートナーが導入を加速し、より一貫したエクスペリエンスを提供するのに役立ちます。オープン性は、双方に真のメリットを生み出します。企業は制御性とアジリティを得ることができる一方、パートナーは特定のベンダーの Playbook に縛られることなく機会と利益を拡大できます。その結果、エコシステム全体での価値実現までの時間が短縮されます。

DenizBank は、実際の世界での成功例を示しています。OpenShift AI を導入する前、データサイエンティストは、依存関係の設定とインフラストラクチャの管理に時間がかかり、エラーが発生しやすい手動の環境で行き詰まっていました。OpenShift AI を既存のプラットフォームの上にレイヤー化し、GitOps を使用して実験から本番環境までの AI の全ライフサイクルを管理することで、環境のセットアップ時間を 1 週間から約 10 分に短縮しました。新しいマイクロサービスとモデルのデプロイにかかる時間が数日から数分に短縮されました。120 人を超えるデータサイエンティストがセルフサービス環境と標準化されたツールで作業し、GPU リソースをより効率的に使用できるようになりました。このスピード、連携、スケーラビリティは、エンタープライズ AI スタックが連携して動作するように構築されている場合に可能になります。

コミュニティの取り組みとしての AI

これは、成功を導く取り組みが、単一の製品を超えて展開されることを示すものです。大規模な AI は、これまで 1 社だけでは決して実現できるものではありませんでした。必要なのは、インフラストラクチャ、アクセラレーター、オーケストレーション・レイヤー、オープンソース・プロジェクト、エンタープライズ・プラットフォーム、さらに最も必要となるのは、これらをつなげるコミュニティです。

今後も生き残れるテクノロジーは、単独で構築されるものではありません。オープンに構築され、コミュニティによってストレステストが実施され、単一のベンダーでは予想できなかったさまざまなユースケースに適応するため、よりレジリエントで、実世界で利用しやすくなります。Linux は、このようにして、エンタープライズ・コンピューティングのバックボーンとなり、今後も同様に、オープンソースが次の AI の時代を形作っていくでしょう。

AI に対する組織の取り組みは、それぞれ異なります。実験、スケーリング、運用化のいずれの場合でも、Red Hat AI はその目標達成を迅速化するのに役立ちます。ポートフォリオの詳細をご確認ください。または、お客様にとって最適なプロセスについてご相談いただくには、こちらにお問い合わせください。