Granite モデルとは
Granite は、IBM がエンタープライズ・アプリケーション向けに作成した大規模言語モデル (LLM) シリーズです。Granite 基盤モデルは、言語とコードを使用する生成人工知能 (生成 AI) のユースケースをサポートできます。
Granite ファミリーモデルは Apache 2.0 ライセンスの下で保証されたオープンソースであり、開発者は Granite モデルを無料で試し、修正し、配布することができます。そのため Granite モデルは、機密データを扱う組織や、外部のサービスに依存せずに独自の LLM を実行したいと考えている組織にとって優れた選択肢となります。
Granite AI モデルの仕組み
基盤モデルは、言語のパターン、構造、表現に関する一般的な理解を基に機能するようにトレーニングされています。この「基盤となる」トレーニングでは、モデルにそれらのパターンの伝達方法と識別方法を教えます。これを AI 推論と呼びます。AI 推論は AI の運用フェーズであり、モデルはトレーニングで学んだことを現実世界の状況に適用できます。
IBM Granite AI モデルにはベースラインとなる知識が備わっており、これらの知識をさらにファインチューニングすることで、ほぼすべての業界の特定のタスクを実行させることができます。Granite ファミリーモデルは、厳選されたデータに基づいてトレーニングされ、トレーニングに使用されるデータの透明性を提供します。
LLM は、生成 AI を使用して、ユーザーが入力したプロンプトに基づいて新しいコンテンツを生成します。今日では、テキスト、画像、動画、コードの生成に生成 AI がよく使用されています。企業は LLM 基盤モデルを使用して、カスタマーサポートのチャットボットやソフトウェアコードのテストなど、業務のさまざまな側面を自動化できます。
生成 AI を使用する他の LLM 基盤モデルには、Meta の LLaMa (LLaMa 2 と LLaMa 3 を含む)、Google の Gemini、Anthropic の Claude、OpenAI の GPT (ChatGPT ボットで知られる)、Mistral などがあります。しかし、Granite AI モデルは、トレーニングデータを公開している、ユーザーとの信頼関係を構築している、よりエンタープライズ環境に適している、という点で他とは異なります。
Red Hat のリソース
Granite モデルはオープンソースか
Granite AI モデルシリーズの一部はオープンソースライセンスの下で利用できます。つまり、開発者はモデルに簡単にアクセスし、ローカルで構築することができます。その後は、特定の目標に合わせたモデルのファインチューニングが可能です。さらに、モデルのトレーニングに使用されたデータ (PDF) の大部分にアクセスできるため、モデルがどのように構築されたか、どのように機能するかを理解できます。
Granite モデルの場合、オープンソースとは、開発者が独自のデータを使用してモデルをカスタマイズし、ユーザー固有の出力を生成できることを意味します。あらゆる人の個人データをオープンソース・コミュニティ全体で利用できるということではありません。パブリック Web サービスの AI とは異なり、Granite モデルでは継続的なトレーニングは行われません。したがって、Granite ファミリーモデルに入力されたデータは、Red Hat、IBM、またはその他のいかなる Granite ユーザーとも共有されることはありません。
Granite モデルの活用方法
医療業界や建設業界などの多くの業界で、広範囲にわたる業務の自動化を実現するために Granite をさまざまな方法で活用できます。Granite モデルは要約、質問への回答、分類など、ビジネスドメインのタスク向けにトレーニングできます。その例をいくつかご紹介します。
- コード生成： Granite コードモデルによって、開発者の作業を基にした構築や改善が可能になり、プロセスが効率化します。たとえば、開発者はオートコンプリートを利用できます。スマートフォンのオートコンプリートと同じように、開発者が入力を終える前にモデルがコード文を完成させることができます。
- インサイトの抽出： 大規模なデータセットの単純化、要約、説明が必要な場合、Granite は正確なパターンとインサイトを迅速に特定できます。これにより、大量のデータを調べる手間が省けます。
Granite のメリット
- 柔軟なアーキテクチャ： Granite は既存のシステムと統合でき、オンプレミスにもクラウドにもデプロイできます。インタフェースはデプロイを単純化できるように作られています。Granite ファミリーにはさまざまなサイズのモデルが含まれているため、コンピューティングコストを管理しながらニーズに最適なモデルを選択できます。
- カスタム・ソリューション： Granite は基盤モデルとして販売されていますが、ビジネス固有の知識に基づいてトレーニングできるように構築されています。ビジネスニーズに合わせてモデルを柔軟に拡張したり、ファインチューニングしたりすることができます。たとえば、医療機器に重点を置く事業の場合は、医療業界で使用される専門用語をモデルに学習させることができます。
- 低レイテンシー： 組織独自のインフラストラクチャ上で Granite モデルを実行できるので、応答時間を短縮するように最適化することができます。このモデルはリアルタイムデータを提供できるため、重要な業務に役立ちます。ここでも医療の例を挙げますが、リアルタイムデータにアクセスできることは、遠く離れた医師と患者の連携や時間的制約のあるケアにとって重要です。Granite モデルを圧縮することで、リソースが少ない場合でも強力なパフォーマンスが得られます。
- 高精度： 開発者は、業界固有のタスク用に Granite シリーズをファインチューニングし、モデルをあらゆる分野の専門家にすることができます。また、世界規模での精度とアクセシビリティを維持するために、複数の言語でトレーニングすることもできます。
- 透明性のあるモデル： Granite はオープンソースライセンスの下で利用できるため、開発者はこの AI モデルがどのように構築され、トレーニングされたかを確認できるだけでなく、オープンソース・コミュニティと連携することもできます。
Granite モデルは分散推論をサポートしているか
はい。Granite モデルは分散推論機能をサポートしています。
分散推論では、相互接続されたデバイスのグループ全体で推論の労力が分割されるため、AI モデルでワークロードをより効率的に処理できます。分散推論は、物理サーバーやクラウドサーバーなどからなる多数のハードウェアにリクエストを分割する仕組みをサポートします。
分割後、各推論サーバーは割り当てられた部分を並行して処理し、出力を作成します。これにより、AI を活用した一貫性のあるスケーラブルなサービスを提供する、回復力と可観測性のあるシステムが実現します。llm-d などのフレームワークは、大規模な分散推論をサポートし、組織全体の生成 AI アプリケーションを高速化します。
推論を重視すべき理由
簡単に言うと、推論を使わない AI は存在しません。
しかし推論は、巨大化し続けるモデルからの大きなプレッシャーにさらされます。モデルが複雑になるほど、推論の速度は遅くなるのです。
推論を成功させるには、AI モデルが短時間で多くの計算を行う必要があります。そのため、モデルサイズ、ユーザー数の多さ、レイテンシーなどの要因によってパフォーマンスが制限される可能性があります。モデルがより多くのデータとメモリーを要求する場合、ハードウェアとアクセラレーターがそれに対応していくのは簡単なことではありません。
つまり AI 戦略の成否は、推論機能をサポートするハードウェアとソフトウェアによって決まります。それは、Granite が次のレベルの推論機能に対応するように構築されている理由でもあります。
IBM Granite モデルの種類
IBM は、ますます複雑化するエンタープライズ・アプリケーションのニーズを満たすために、複数の Granite モデルシリーズをリリースしています。Granite ファミリー内のモデルシリーズには、さまざまなカテゴリと命名規則があります。
各シリーズの目的は、次のようにそれぞれ異なります。
Granite 言語モデル： 低レイテンシーを維持するとともに、複数の言語での正確な自然言語処理 (NLP) を実現します。
- Granite コードモデル： エンタープライズレベルのソフトウェアタスクをサポートできるように、100 を超えるさまざまなプログラミング言語でトレーニングされています。
- Granite 時系列モデル： 時系列予測 (過去のデータを使用して将来のデータを予測する手法) 用にファインチューニングされています。
Granite 地理空間データモデル： IBM と NASA が作成した基盤モデルで、大規模な衛星データ収集によって地球を観察し、環境変化の追跡とその変化への対処に役立てることができます。
これらの各シリーズにおいて、Granite はサイズや特長の異なるさまざまなモデルを提供しています。たとえば、Granite 言語モデルに含まれるものは次のとおりです。
- Granite-7b-base：会話やチャットを目的とした汎用言語モデル
- Granite-7b-instruct：タスクの指示に従うことに特化
Red Hat のサポート内容
Red Hat® AI は、vLLM 搭載のサーバーを通じて、高速で柔軟かつ効率的な推論を行うように構築されています。モデルをデータと確実に接続し、専用エージェントのカスタマイズと開発を単一のプラットフォームで行うことができます。オープンソースを基盤として構築された当社の製品により、あらゆる規模で AI ワークフローをエンドツーエンドで完全に制御することができます。
Red Hat AI ポートフォリオには、Red Hat AI Inference が含まれています。これは、ハイブリッドクラウドのどこでも任意のアクセラレーター上であらゆるモデルを実行できるように運用制御を提供する推論スタックです。大規模環境において、高速かつ効率的でコスト効率に優れた推論を実現します。
生成 AI の基盤を構築する際の主な検討事項
この e ブックでは、生成 AI プロジェクトを加速させる信頼できるインフラストラクチャ基盤を確立するための主な検討事項について説明します。
