Red Hat AI を利用した生成 AI

Red Hat AI なら、エンタープライズグレードのオープンソースGranite モデルを利用できるので、AI のデプロイと運用の効率が上がります。こうした小規模言語モデルは、お客様のニーズに合わせてカスタマイズできます。小規模言語モデルは、コストを抑えられて、効率性が高く、推論に最適化されているのに加え、Red Hat のオープンソース保証プログラムの対象です。 

LLM 圧縮アルゴリズムを適用して、さらにハードウェアコストを削減し、ご希望のハードウェア・アクセラレーターで実行できます。 

vLLM などのテクノロジーを利用して、GPU の性能を最適化することもできます。そうすることで、ハードウェアコストが軽減され、トークン生成速度が向上するため、リアルタイム・アプリケーションでのより迅速な応答につながります。

アクセシビリティを念頭に設計された Red Hat AI は、データサイエンティスト、データエンジニア、アプリケーション開発者、DevOps チームなどのユーザーに一貫したエクスペリエンスを提供します。このため、コラボレーションが促進され、エラーが減り、市場投入までの時間が短縮されます。 

Red Hat AI をご利用のお客様は、InstructLab アライメントツールも利用できるため、従業員の誰もが大規模言語モデル (LLM) に貢献できるようになっています。 

また、検索拡張生成 (RAG) による LLM のカスタマイズも可能です。データ取り込み、組み込み、モデルの評価などの機能を備えた Red Hat AI なら、特定のビジネスニーズに合わせた応答を作成できます。

Red Hat AI では、モデルや生成 AI アプリケーションのトレーニング、チューニング、デプロイ、および実行を、オンプレミス、パブリッククラウド、あるいはエッジのどこで行うのかをユーザーが柔軟に選択できます。選択した環境内で生成 AI モデルを管理することで、アクセスを制御し、コンプライアンス監視を自動化し、データセキュリティを強化できます。

vLLM は、処理作業を複数の GPU に分散させることで、生成 AI アプリケーションの柔軟なデプロイをサポートします。データの受信、処理、送信を行う複数のノードにサービスが分散されるため、コンピューティング・リソースをより効率的に利用できるようになります。 

Red Hat AI は、オフライン環境やエアギャップ環境にも対応しているため、特に機密性の高いデータを保護できます。

Red Hat の AI プラットフォームのご利用にあたっては、当社のエンジニアリングチームが全力でサポートいたします。オペレーティングシステムから個々のツールまで、お客様の AI 戦略を前進させるべく、必要なサポートを提供します。