Granite モデルとは

 Granite は、エンタープライズアプリケーション向けに IBM が作成した一連の大規模言語 モデル(LLM) です。 Granite 基盤モデルは、言語とコードを含む生成人工知能 (gen AI) ユースケースをサポートできます。

Granite ファミリーのモデルは Apache 2.0 ライセンスの下で保証されたオープンソースです。つまり、開発者は Granite モデルを無料で試用し、変更し、配布することができます。そのため Granite モデルは、機密データを扱う組織や、外部のサービスに依存せずに独自の LLM を実行したいと考えている組織にとって優れた選択肢となります。

Granite と Red Hat の連携

基盤モデルは、言語のパターン、構造、表現に関する一般的な理解を基に機能するようにトレーニングされています。この「基盤となる」トレーニングでは、モデルにそれらのパターンの伝達方法と識別方法を教えます。これは AI 推論と呼ばれます。AI 推論は AI の運用段階であり、モデルがトレーニングによって学習したことを実際の状況に適用できるようになります」

IBM Granite AI モデルにはベースラインとなる知識が備わっており、これらの知識をさらにファインチューニングすることで、ほぼすべての業界の特定のタスクを実行させることができます。Granite ファミリーモデルは、厳選されたデータに基づいてトレーニングされ、トレーニングに使用されるデータの透明性を提供します。

LLM は、生成 AI を使用して、ユーザーが入力したプロンプトに基づいて新しいコンテンツを生成します。今日では、テキスト、画像、動画、コードの生成に生成 AI がよく使用されています。企業は LLM 基盤モデルを使用して、カスタマーサポートのチャットボットやソフトウェアコードのテストなど、業務のさまざまな側面を自動化できます。

生成 AI を使用する他の LLM 基盤モデルには、Meta の LLaMa (LLaMa 2 と LLaMa 3 を含む)、Google の Gemini、Anthropic の Claude、OpenAI の GPT (ChatGPT ボットで知られる)、Mistral などがあります。しかし、Granite AI モデルは、トレーニングデータを公開している、ユーザーとの信頼関係を構築している、よりエンタープライズ環境に適している、という点で他とは異なります。

Granite AI モデルシリーズの一部はオープンソースライセンスの下で利用できます。つまり、開発者はモデルに簡単にアクセスし、ローカルで構築することができます。その後は、特定の目標に合わせたモデルのファインチューニングが可能です。さらに、モデルのトレーニングに使用されたデータ (PDF) の大部分にアクセスできるため、モデルがどのように構築されたか、どのように機能するかを理解できます。

Granite モデルに関して言えば、 オープンソース とは、開発者が自らのデータでモデルをカスタマイズしてユーザー固有の出力を生成できる領域を意味します。あらゆる人の個人データをオープンソース・コミュニティ全体で利用できるということではありません。パブリック Web サービスの AI とは異なり、Granite モデルでは継続的なトレーニングは行われません。したがって、Granite ファミリーモデルに入力されたデータは、Red Hat、IBM、またはその他のいかなる Granite ユーザーとも共有されることはありません。

医療業界や建設業界などの多くの業界で、広範囲にわたる業務の自動化を実現するために Granite をさまざまな方法で活用できます。Granite モデルは要約、質問への回答、分類など、ビジネスドメインのタスク向けにトレーニングできます。その例をいくつかご紹介します。

• コード生成： Granite のコードモデルは、プロセスをより効率的にするために開発者が行う作業をベースにしたり、開発者が行った作業を改善したりするのに役立ちます。たとえば、開発者はオートコンプリートを利用できます。スマートフォンのオートコンプリートと同じように、開発者が入力を終える前にモデルがコード文を完成させることができます。 
• インサイトの抽出： 大規模なデータセットを単純化、要約、または説明する必要がある場合、Granite は正確なパターンとインサイトをすばやく特定できます。これにより、大量のデータを調べる手間が省けます。 

AI のユースケースをさらに詳しく

• 柔軟なアーキテクチャ: Granite は既存のシステムと統合でき、オンプレミスまたはクラウドにデプロイできます。インタフェースはデプロイを単純化できるように作られています。Granite ファミリーにはさまざまなサイズのモデルが含まれているため、コンピューティングコストを管理しながらニーズに最適なモデルを選択できます。
• カスタムソリューション： Granite は基盤モデルとして販売されていますが、ビジネス固有の知識を習得するためのトレーニングとして構築されています。ビジネスニーズに合わせてモデルを柔軟に拡張したり、ファインチューニングしたりすることができます。たとえば、医療機器に重点を置く事業の場合は、医療業界で使用される専門用語をモデルに学習させることができます。 
• 低レイテンシー： 独自のインフラストラクチャで Granite モデルを実行することで、迅速な応答時間のために最適化できます。このモデルはリアルタイムデータを提供できるため、重要な業務に役立ちます。ここでも医療の例を挙げますが、リアルタイムデータにアクセスできることは、遠く離れた医師と患者の連携や時間的制約のあるケアにとって重要です。  
• 高精度： 開発者は、業界固有のタスクに合わせて Granite シリーズを微調整して、モデルをあらゆる分野でエキスパートにできます。また、世界規模での精度とアクセシビリティを維持するために、複数の言語でトレーニングすることもできます。 
• 透明性のあるモデル： Granite はオープンソースライセンスの下で利用できるため、開発者は AI モデルの構築方法とトレーニング方法を確認できるだけでなく、オープンソース・コミュニティとのコラボレーションも可能です。 

IBM は、ますます複雑化するエンタープライズ・アプリケーションのニーズを満たすために、複数の Granite モデルシリーズをリリースしています。Granite ファミリー内のモデルシリーズには、さまざまなカテゴリと命名規則があります。

各シリーズの目的は、次のようにそれぞれ異なります。

• Granite for Language: これらのモデルは、低レイテンシーを維持しながら、複数の言語で正確な自然言語処理 (NLP) を提供します。
• Granite for Code： これらのモデルは 100 種類以上のプログラミング言語でトレーニングされ、エンタープライズレベルのソフトウェアタスクをサポートします。
• Granite for Time Series： これらのモデルは、過去のデータを使用して将来のデータを予測する方法である時系列予測のために微調整されています。
• Granite for geosatial： IBM と NASA が、大規模な衛星データ収集で地球を観測できるこの基盤モデルを作成し、環境の変化を追跡して対処するのに役立てました。

これらの各シリーズにおいて、Granite はサイズや特長の異なるさまざまなモデルを提供しています。たとえば、Granite 言語モデルに含まれるものは次のとおりです。

• Granite-7b-base：会話やチャットを目的とした汎用言語モデル
• Granite-7b-instruct：タスクの指示に従うことに特化

Hugging Face で Granite モデルを探索

Red Hat® AI は、Red Hat のお客様の信頼を得ているソリューションに基づいて構築された AI 製品のポートフォリオです。これを基盤として、当社製品の信頼性、柔軟性、拡張性が維持されます。

この Red Hat AI のポートフォリオを通じて実現できることは、次のとおりです。

• AI を迅速に導入してイノベーションを実現する
• AI ソリューションの提供における複雑さを解消できる
• どこにでもデプロイできる

Red Hat AI を使用すると、Granite ファミリーの LLM の機能と組織独自のモデルの機能にアクセスできます。さらに、当社のコンサルタントは、生成 AI アプリケーションと重要なワークロードを併せて構築およびデプロイする組織に対し、組織独自のエンタープライズ・ユースケースに関する実践的なサポートを提供できます。

Red Hat AI の詳細

Granite ファミリー LLM に容易にアクセス

Red Hat Enterprise Linux® AI は、Granite ファミリーの LLM の開発、テスト、実行に特化した基盤モデル・プラットフォームです。オープンソースのアプローチによってコストが低く抑えられ、幅広いユーザーにとって使いやすいものになっています。このプラットフォームでは、独自のデータを試しながら学習することができます。組織のエンタープライズ・ユースケースがまだ明確でない場合は、これを出発点とするのが良いでしょう。Red Hat Enterprise Linux® AI は、Granite ファミリーの LLM の開発、テスト、実行に特化した基盤モデル・プラットフォームです。オープンソースのアプローチによってコストが低く抑えられ、幅広いユーザーにとって使いやすいものになっています。

Red Hat Enterprise Linux AI の詳細を読む

InstructLab で始める

Red Hat Enterprise Linux AI には InstructLab (LLM を強化するためのオープンソース・コミュニティ・プロジェクト) が含まれています。InstructLab を通じて、さまざまなスキルレベルやリソースを持つ開発者たちが簡単に貢献できるため、AI モデルの実験を始めるのに適しています。たとえば、トレーニング中に必要な、人間が生成する情報やコンピューティング・リソースが大幅に少なくなります。さらに、InstructLab は特定のモデルに特化されたものではないため、組織が選択した LLM に対する補足的なファインチューニングが可能です。

InstructLab での LLM のトレーニング方法を動画で見る