Granite モデルとは
Granite は、IBM がエンタープライズ・アプリケーション向けに作成した大規模言語モデル (LLM) シリーズです。Granite 基盤モデルは、言語とコードを使用する生成人工知能 (生成 AI) のユースケースをサポートできます。
Granite ファミリーモデルは Apache 2.0 ライセンスの下で保証されたオープンソースであり、開発者は Granite モデルを無料で試し、修正し、配布することができます。そのため Granite モデルは、機密データを扱う組織や、外部のサービスに依存せずに独自の LLM を実行したいと考えている組織にとって優れた選択肢となります。
Granite AI モデルの仕組み
基盤モデルは、言語のパターン、構造、表現に関する一般的な理解を基に機能するようにトレーニングされています。この「基盤となる」トレーニングでは、モデルにそれらのパターンの伝達方法と識別方法を教えます。
IBM Granite AI モデルにはベースラインとなる知識が備わっており、これらの知識をさらにファインチューニングすることで、ほぼすべての業界の特定のタスクを実行させることができます。Granite ファミリーモデルは、厳選されたデータに基づいてトレーニングされ、トレーニングに使用されるデータの透明性を提供します。
LLM は、生成 AI を使用して、ユーザーが入力したプロンプトに基づいて新しいコンテンツを生成します。今日では、テキスト、画像、動画、コードの生成に生成 AI がよく使用されています。企業は LLM 基盤モデルを使用して、カスタマーサポートのチャットボットやソフトウェアコードのテストなど、業務のさまざまな側面を自動化できます。
生成 AI を使用する他の LLM 基盤モデルには、Meta の LLaMa (LLaMa 2 と LLaMa 3 を含む)、Google の Gemini、Anthropic の Claude、OpenAI の GPT (ChatGPT ボットで知られる)、Mistral などがあります。しかし、Granite AI モデルは、トレーニングデータを公開している、ユーザーとの信頼関係を構築している、よりエンタープライズ環境に適している、という点で他とは異なります。
Red Hat のリソース
Granite モデルはオープンソースか
Granite AI モデルシリーズの一部はオープンソースライセンスの下で利用できます。つまり、開発者はモデルに簡単にアクセスし、ローカルで構築することができます。その後は、特定の目標に合わせたモデルのファインチューニングが可能です。さらに、モデルのトレーニングに使用されたデータ (PDF) の大部分にアクセスできるため、モデルがどのように構築されたか、どのように機能するかを理解できます。
Granite モデルの場合、オープンソースとは、開発者が独自のデータを使用してモデルをカスタマイズし、ユーザー固有の出力を生成できることを意味します。あらゆる人の個人データをオープンソース・コミュニティ全体で利用できるということではありません。パブリック Web サービスの AI とは異なり、Granite モデルでは継続的なトレーニングは行われません。したがって、Granite ファミリーモデルに入力されたデータは、Red Hat、IBM、またはその他のいかなる Granite ユーザーとも共有されることはありません。
Granite モデルの活用方法
医療業界や建設業界などの多くの業界で、広範囲にわたる業務の自動化を実現するために Granite をさまざまな方法で活用できます。Granite モデルは要約、質問への回答、分類など、ビジネスドメインのタスク向けにトレーニングできます。その例をいくつかご紹介します。
- コード生成:Granite コードモデルによって、開発者の作業を基にした構築や改善が可能になり、プロセスが効率化されます。たとえば、開発者はオートコンプリートを利用できます。スマートフォンのオートコンプリートと同じように、開発者が入力を終える前にモデルがコード文を完成させることができます。
- インサイトの抽出:大規模なデータセットの単純化、要約、または説明が必要な場合、Granite は正確なパターンとインサイトを迅速に特定できます。これにより、大量のデータを調べる手間が省けます。
Granite のメリット
- 柔軟なアーキテクチャ:Granite は既存のシステムと統合でき、オンプレミスにもクラウドにもデプロイできます。インタフェースはデプロイを単純化できるように作られています。Granite ファミリーにはさまざまなサイズのモデルが含まれているため、コンピューティングコストを管理しながらニーズに最適なモデルを選択できます。
- カスタム・ソリューション:Granite は基盤モデルとして販売されていますが、ビジネス固有の知識に基づいてトレーニングできるように構築されています。ビジネスニーズに合わせてモデルを柔軟に拡張したり、ファインチューニングしたりすることができます。たとえば、医療機器に重点を置く事業の場合は、医療業界で使用される専門用語をモデルに学習させることができます。
- 低レイテンシー:組織独自のインフラストラクチャ上で Granite モデルを実行できるので、応答時間を短縮するように最適化することができます。このモデルはリアルタイムデータを提供できるため、重要な業務に役立ちます。ここでも医療の例を挙げますが、リアルタイムデータにアクセスできることは、遠く離れた医師と患者の連携や時間的制約のあるケアにとって重要です。
- 高精度:開発者は、業界固有のタスクに合わせて Granite シリーズをファインチューニングし、モデルをあらゆる分野の専門家にすることができます。また、世界規模での精度とアクセシビリティを維持するために、複数の言語でトレーニングすることもできます。
- 透明なモデル:Granite はオープンソースライセンスの下で利用できるため、開発者はこの AI モデルがどのように構築され、トレーニングされたかを確認できるだけでなく、オープンソース・コミュニティと連携することもできます。
IBM Granite モデルの種類
IBM は、ますます複雑化するエンタープライズ・アプリケーションのニーズを満たすために、複数の Granite モデルシリーズをリリースしています。Granite ファミリー内のモデルシリーズには、さまざまなカテゴリと命名規則があります。
各シリーズの目的は、次のようにそれぞれ異なります。
- Granite 言語モデル:低レイテンシーを維持するとともに、複数の言語での正確な自然言語処理 (NLP) を実現します。
- Granite コードモデル:エンタープライズレベルのソフトウェアタスクをサポートできるように、100 を超えるさまざまなプログラミング言語でトレーニングされています。
- Granite 時系列モデル:時系列予測 (過去のデータを使用して将来のデータを予測する手法) 用にファインチューニングされています。
- Granite 地理空間データモデル:IBM と NASA が作成した基盤モデルで、大規模な衛星データ収集によって地球を観察し、環境変化の追跡とその変化への対処に役立てることができます。
これらの各シリーズにおいて、Granite はサイズや特長の異なるさまざまなモデルを提供しています。たとえば、Granite 言語モデルに含まれるものは次のとおりです。
- Granite-7b-base:会話やチャットを目的とした汎用言語モデル
- Granite-7b-instruct:タスクの指示に従うことに特化
Red Hat のサポート内容
Red Hat® AI は、Red Hat のお客様の信頼を得ているソリューションに基づいて構築された AI 製品のポートフォリオです。これを基盤として、当社製品の信頼性、柔軟性、拡張性が維持されます。
この Red Hat AI のポートフォリオを通じて実現できることは、次のとおりです。
- AI を迅速に導入し、AI によって迅速に革新できる
- AI ソリューションの提供における複雑さを解消できる
- どこにでもデプロイできる
Red Hat AI を使用すると、Granite ファミリーの LLM の機能と組織独自のモデルの機能にアクセスできます。さらに、当社のコンサルタントは、生成 AI アプリケーションと重要なワークロードを併せて構築およびデプロイする組織に対し、組織独自のエンタープライズ・ユースケースに関する実践的なサポートを提供できます。
Granite ファミリーの LLM に簡単にアクセス
Red Hat Enterprise Linux® AI は、Granite ファミリーの LLM の開発、テスト、実行に特化した基盤モデル・プラットフォームです。オープンソースのアプローチによってコストが低く抑えられ、幅広いユーザーにとって使いやすいものになっています。このプラットフォームでは、独自のデータを試しながら学習することができます。組織のエンタープライズ・ユースケースがまだ明確でない場合は、これを出発点とするのが良いでしょう。Red Hat Enterprise Linux® AI は、Granite ファミリーの LLM の開発、テスト、実行に特化した基盤モデル・プラットフォームです。オープンソースのアプローチによってコストが低く抑えられ、幅広いユーザーにとって使いやすいものになっています。
InstructLab から始める
Red Hat Enterprise Linux AI には InstructLab (LLM を強化するためのオープンソース・コミュニティ・プロジェクト) が含まれています。InstructLab を通じて、さまざまなスキルレベルやリソースを持つ開発者たちが簡単に貢献できるため、AI モデルの実験を始めるのに適しています。たとえば、トレーニング中に必要な、人間が生成する情報やコンピューティング・リソースが大幅に少なくなります。さらに、InstructLab は特定のモデルに特化されたものではないため、組織が選択した LLM に対する補足的なファインチューニングが可能です。
Red Hat 公式ブログ
Red Hat のお客様、パートナー、およびコミュニティのエコシステムに関する最新の情報を入手しましょう。