Granite モデルとは

URL をコピー

Granite は、IBM がエンタープライズ・アプリケーション向けに作成した大規模言語モデル (LLM) シリーズです。Granite 基盤モデルは、言語とコードを使用する生成人工知能 (生成 AI) のユースケースをサポートできます。

Granite ファミリーモデルは Apache 2.0 ライセンスの下で保証されたオープンソースであり、開発者は Granite モデルを無料で試し、修正し、配布することができます。そのため Granite モデルは、機密データを扱う組織や、外部のサービスに依存せずに独自の LLM を実行したいと考えている組織にとって優れた選択肢となります。

Granite と Red Hat の連携

基盤モデルは、言語のパターン、構造、表現に関する一般的な理解を基に機能するようにトレーニングされています。この「基盤となる」トレーニングでは、モデルにそれらのパターンの伝達方法と識別方法を教えます。

IBM Granite AI モデルにはベースラインとなる知識が備わっており、これらの知識をさらにファインチューニングすることで、ほぼすべての業界の特定のタスクを実行させることができます。Granite ファミリーモデルは、厳選されたデータに基づいてトレーニングされ、トレーニングに使用されるデータの透明性を提供します。

LLM は、生成 AI を使用して、ユーザーが入力したプロンプトに基づいて新しいコンテンツを生成します。今日では、テキスト、画像、動画、コードの生成に生成 AI がよく使用されています。企業は LLM 基盤モデルを使用して、カスタマーサポートのチャットボットやソフトウェアコードのテストなど、業務のさまざまな側面を自動化できます。

生成 AI を使用する他の LLM 基盤モデルには、Meta の LLaMa (LLaMa 2 と LLaMa 3 を含む)、Google の Gemini、Anthropic の Claude、OpenAI の GPT (ChatGPT ボットで知られる)、Mistral などがあります。しかし、Granite AI モデルは、トレーニングデータを公開している、ユーザーとの信頼関係を構築している、よりエンタープライズ環境に適している、という点で他とは異なります。

Granite AI モデルシリーズの一部はオープンソースライセンスの下で利用できます。つまり、開発者はモデルに簡単にアクセスし、ローカルで構築することができます。その後は、特定の目標に合わせたモデルのファインチューニングが可能です。さらに、モデルのトレーニングに使用されたデータ (PDF) の大部分にアクセスできるため、モデルがどのように構築されたか、どのように機能するかを理解できます。

Granite モデルの場合、オープンソースとは、開発者が独自のデータを使用してモデルをカスタマイズし、ユーザー固有の出力を生成できることを意味します。あらゆる人の個人データをオープンソース・コミュニティ全体で利用できるということではありません。パブリック Web サービスの AI とは異なり、Granite モデルでは継続的なトレーニングは行われません。したがって、Granite ファミリーモデルに入力されたデータは、Red Hat、IBM、またはその他のいかなる Granite ユーザーとも共有されることはありません。

医療業界や建設業界などの多くの業界で、広範囲にわたる業務の自動化を実現するために Granite をさまざまな方法で活用できます。Granite モデルは要約、質問への回答、分類など、ビジネスドメインのタスク向けにトレーニングできます。その例をいくつかご紹介します。

  • コード生成:Granite コードモデルによって、開発者の作業を基にした構築や改善が可能になり、プロセスが効率化されます。たとえば、開発者はオートコンプリートを利用できます。スマートフォンのオートコンプリートと同じように、開発者が入力を終える前にモデルがコード文を完成させることができます。 
  • インサイトの抽出:大規模なデータセットの単純化、要約、または説明が必要な場合、Granite は正確なパターンとインサイトを迅速に特定できます。これにより、大量のデータを調べる手間が省けます。 

他の AI のユースケースを見る

  • 柔軟なアーキテクチャ:Granite は既存のシステムと統合でき、オンプレミスにもクラウドにもデプロイできます。インタフェースはデプロイを単純化できるように作られています。Granite ファミリーにはさまざまなサイズのモデルが含まれているため、コンピューティングコストを管理しながらニーズに最適なモデルを選択できます。
  • カスタム・ソリューション:Granite は基盤モデルとして販売されていますが、ビジネス固有の知識に基づいてトレーニングできるように構築されています。ビジネスニーズに合わせてモデルを柔軟に拡張したり、ファインチューニングしたりすることができます。たとえば、医療機器に重点を置く事業の場合は、医療業界で使用される専門用語をモデルに学習させることができます。 
  • 低レイテンシー:組織独自のインフラストラクチャ上で Granite モデルを実行できるので、応答時間を短縮するように最適化することができます。このモデルはリアルタイムデータを提供できるため、重要な業務に役立ちます。ここでも医療の例を挙げますが、リアルタイムデータにアクセスできることは、遠く離れた医師と患者の連携や時間的制約のあるケアにとって重要です。  
  • 高精度:開発者は、業界固有のタスクに合わせて Granite シリーズをファインチューニングし、モデルをあらゆる分野の専門家にすることができます。また、世界規模での精度とアクセシビリティを維持するために、複数の言語でトレーニングすることもできます。 
  • 透明なモデル:Granite はオープンソースライセンスの下で利用できるため、開発者はこの AI モデルがどのように構築され、トレーニングされたかを確認できるだけでなく、オープンソース・コミュニティと連携することもできます。

IBM は、ますます複雑化するエンタープライズ・アプリケーションのニーズを満たすために、複数の Granite モデルシリーズをリリースしています。Granite ファミリー内のモデルシリーズには、さまざまなカテゴリと命名規則があります。

各シリーズの目的は、次のようにそれぞれ異なります。

  • Granite 言語モデル:低レイテンシーを維持するとともに、複数の言語での正確な自然言語処理 (NLP) を実現します。
  • Granite コードモデル:エンタープライズレベルのソフトウェアタスクをサポートできるように、100 を超えるさまざまなプログラミング言語でトレーニングされています。
  • Granite 時系列モデル:時系列予測 (過去のデータを使用して将来のデータを予測する手法) 用にファインチューニングされています。
  • Granite 地理空間データモデル:IBM と NASA が作成した基盤モデルで、大規模な衛星データ収集によって地球を観察し、環境変化の追跡とその変化への対処に役立てることができます。

これらの各シリーズにおいて、Granite はサイズや特長の異なるさまざまなモデルを提供しています。たとえば、Granite 言語モデルに含まれるものは次のとおりです。

  • Granite-7b-base:会話やチャットを目的とした汎用言語モデル
  • Granite-7b-instruct:タスクの指示に従うことに特化

Hugging Face で Granite モデルを探索

Red Hat® AI は、Red Hat のお客様の信頼を得ているソリューションに基づいて構築された AI 製品のポートフォリオです。これを基盤として、当社製品の信頼性、柔軟性、拡張性が維持されます。

この Red Hat AI のポートフォリオを通じて実現できることは、次のとおりです。

  • AI を迅速に導入し、AI によって迅速に革新できる
  • AI ソリューションの提供における複雑さを解消できる
  • どこにでもデプロイできる

Red Hat AI を使用すると、Granite ファミリーの LLM の機能と組織独自のモデルの機能にアクセスできます。さらに、当社のコンサルタントは、生成 AI アプリケーションと重要なワークロードを併せて構築およびデプロイする組織に対し、組織独自のエンタープライズ・ユースケースに関する実践的なサポートを提供できます。

Red Hat AI の詳細

 

Granite ファミリーの LLM に簡単にアクセス

Red Hat Enterprise Linux® AI は、Granite ファミリーの LLM の開発、テスト、実行に特化した基盤モデル・プラットフォームです。オープンソースのアプローチによってコストが低く抑えられ、幅広いユーザーにとって使いやすいものになっています。このプラットフォームでは、独自のデータを試しながら学習することができます。組織のエンタープライズ・ユースケースがまだ明確でない場合は、これを出発点とするのが良いでしょう。Red Hat Enterprise Linux® AI は、Granite ファミリーの LLM の開発、テスト、実行に特化した基盤モデル・プラットフォームです。オープンソースのアプローチによってコストが低く抑えられ、幅広いユーザーにとって使いやすいものになっています。

Red Hat Enterprise Linux AI の詳細を読む

 

InstructLab から始める

Red Hat Enterprise Linux AI には InstructLab (LLM を強化するためのオープンソース・コミュニティ・プロジェクト) が含まれています。InstructLab を通じて、さまざまなスキルレベルやリソースを持つ開発者たちが簡単に貢献できるため、AI モデルの実験を始めるのに適しています。たとえば、トレーニング中に必要な、人間が生成する情報やコンピューティング・リソースが大幅に少なくなります。さらに、InstructLab は特定のモデルに特化されたものではないため、組織が選択した LLM に対する補足的なファインチューニングが可能です。

InstructLab での LLM のトレーニング方法を動画で見る

ハブ

Red Hat 公式ブログ

Red Hat のお客様、パートナー、およびコミュニティのエコシステムに関する最新の情報を入手しましょう。

すべての Red Hat 製品のトライアル

Red Hat の無料トライアルは、Red Hat 製品をハンズオンでお試しいただける無料体験版です。認定の取得に向けた準備をしたり、製品が組織に適しているかどうかを評価したりするのに役立ちます。

関連情報

RAG とファインチューニング

RAG とファインチューニングはいずれも LLM の改良を目的としていますが、使用する手法は異なります。RAG はモデルの変更を行いませんが、ファインチューニングはパラメーターの調整を必要とします。

ディープラーニングとは | Red Hat

ディープラーニング (深層学習) とは、人間の知識の獲得方法を模して開発されたアルゴリズムを使い、データから特徴を抽出するようコンピュータに学習させる AI 技法です。

Kubernetes が AI/ML を支援する方法 | Red Hat

Kubernetes は、コードを多様な環境で一貫して再現可能にし、コンテナ運用を自動化するため、AI/ML 開発でのアジリティ、柔軟性、可搬性、スケーラビリティが得られます。

AI/MLリソース

注目の製品

  • Red Hat Enterprise Linux AI

    エンタープライズアプリケーション向けの Granite 大規模言語モデル (LLM) ファミリーをシームレスに開発し、テストし、実行するための基盤モデルプラットフォームです。

関連記事