新しい開発者プレビューで RHEL コマンドライン・アシスタントをオフラインで使用する

RHEL Lightspeed がサポートする Red Hat Enterprise Linux (RHEL) の コマンドライン・アシスタント のオフラインバージョンが、既存の Red Hat Satellite サブスクリプションをご利用のお客様向けに、開発者プレビューとして利用可能になりました。これにより、RHEL コマンドライン・アシスタントの機能を自己完結型の形式で提供され、ワークステーションまたは個々の RHEL システム上でローカルに実行できます。このアシスタントが動作するには外部ネットワーク接続を必要としないため、全く接続されていない環境やオフライン、またはエアギャップ環境でも機能します。コマンドライン・アシスタントは、AI を活用したガイダンスと提案を提供し、さまざまな RHEL タスクを支援します。RHEL のインストールとアップグレードのトピックに関する知識が拡張されているため、接続が制限されているか、接続されていない場合でもこれらのサポートを受けられるようになります。  

アーキテクチャの概要

コマンドライン・アシスタントのオフラインバージョンは、Podman で実行できる一連のコンテナーイメージとして提供されます。  使用するコンテナーは次のとおりです。

• installer container： 他の必要なコンテナーをプルし、 rhel-cla コマンドをインストールし、オプションで systemd サービスを作成します。
• rlsapi container：コマンドライン・アシスタントのクライアントが通信するエンドポイントを提供します。
• rag-database container： LLM の知識を RHEL ドキュメントなどの追加データで補完するために使用される検索拡張生成 (RAG) データベースです。
• ramalama container： LLM 推論を提供します。 

前提条件と要件

お客様の Red Hat Satellite サブスクリプションには、RHEL 環境をローカルで管理するためのツールが用意されています。これらのツールには、Satellite 製品自体のほか、最近導入された Red Hat Offline Knowledge Portal が含まれます。これは、Red Hat の独自のナレッジコンテンツのオフラインバージョンを提供します。Red Hat は Satellite サブスクリプションを拡張し、RHEL コマンドライン・アシスタントのオフラインバージョンも提供します。

コマンドライン・アシスタントのオフラインバージョンはコンテナーのセットとして提供され、RHEL システム、Mac または Windows ワークステーションで実行できます。Mac システムを使用している場合は、Podman Desktop が必要です。また、NVIDIA、AMD、または Mac M シリーズ GPU を搭載したシステムを使用することをお勧めします。

ハードウェア要件

CPU のみのシステム (RHEL 9.6 以降および 10 以降/Fedora 42/Windows 11)：

• RAM： 8 GB
• CPU コア： 2

GPU 対応システム (RHEL 9.6 以降および 10 以降/Fedora 42/Windows 11)：

• RAM： 4 GB
• GPU： 4 GB 以上の VRAM

Apple システム (macOS 15.x)：

• M2 チップ以降

すべてのシステム：

• 使用可能なディスク容量： 10 GB

使い始める

RHEL コマンドライン・アシスタントのオフラインバージョンのコンテナーイメージは、Satellite サブスクリプションを持つすべてのお客様が Red Hat Container Registry から入手できます。まず、Red Hat Container Registry に対して認証を行います。  

$ podman login registry.redhat.io

インストーラーコンテナーを使用してインストールを実行します。  このコンテナーは必要な他のコンテナーをプルし、 rhel-cla コマンドをインストールし、オプションで systemd サービスを作成します。  systemd サービスは、システムの起動時に自動的に起動するようにオフライン RHEL コマンドライン・アシスタントコンテナーを使用する環境で使用できます。

インストーラーを実行する前に、 ~/.config および ~/.local/bin ディレクトリがホームディレクトリにあることを確認します。インストーラーコンテナーを起動するには、次のコマンドを使用します。

$ podman run -u : --rm -v $HOME/.config:/config:Z \

-v $HOME/.local/bin:/config/.local/bin:Z \

registry.redhat.io/rhel-cla/installer-rhel10:latest \

install-systemd

systemd サービスをインストールすることを希望しない場合は、コマンドの最後に install-systemd 引数を含めないでください。 

インストールが完了したら、rhel-cla コマンドを使用して、オフライン RHEL コマンドライン・アシスタントの起動、停止、アンインストール、ステータスの確認を行うことができます。  Mac では、rhel-cla コマンドを実行可能にする必要があります。 

$ chmod +x ~/.local/bin/rhel-cla

RHEL コマンドライン・アシスタントのオフラインバージョンを起動するには、以下を実行します。

$ rhel-cla start

これにより出力が生成されますが、ここでは、すべてが正常に開始されたことを示すメッセージのみが必要になります。

✅ RHEL CLA pod is running!

利用可能なサービス:

• API：http://localhost:8000
• モデルサーバー：http://localhost:8888
• データベース：localhost:5432

GPU の設定

次のステップでは、 ~/.config/rhel-cla/.env ファイル内で GPU を設定します。  このファイルをテキストエディターで開き、次の設定を実行してください。

• LLAMACPP_IMAGE 変数を、お使いの GPU ハードウェアに適した RamaLama コンテナーに設定します。  ファイル内に詳細情報を提供するコメントがあります。
• HOST_DEVICE 変数を GPU のデバイスに設定します。
• 必要に応じて NVIDIA 固有の変数を設定します。ファイル内のコメントでこれに関する詳細情報が提供されます。  

RHEL コマンドライン・アシスタントのオフラインバージョンには、Microsoft Phi4-mini LLM モデルが含まれます。LLM 変数を更新することで、別のモデルを使用できます。 

設定を変更したら、オフラインの RHEL コマンドライン・アシスタントを再起動します。

$ rhel-cla stop

$ rhel-cla start

コマンドライン・アシスタントクライアントの設定

コマンドライン・アシスタントのパッケージを RHEL システムにインストールします。

$ sudo dnf install command-line-assistant

デフォルトで、コマンドライン・アシスタントのクライアントは、オンラインの RHEL Lightspeed サービスを使用するように設定されています。/etc/xdg/command-line-assistant/config.toml ファイルでエンドポイント設定オプションを更新して、オフライン RHEL コマンドライン・アシスタントコンテナーをホストしているシステムを指定します。私が実際に使用している環境では、コマンドライン・アシスタントのクライアントとオフラインコンテナーを同じシステム上で実行しているので、コマンドライン・アシスタントサービスを開始した後に、エンドポイントを提供された値に更新するようにしています。 

endpoint = "http://127.0.0.1:8000/"

RHEL コマンドライン・アシスタントのコンテナーのオフラインバージョンがコマンドライン・アシスタントのクライアントとは異なるシステム上にある場合は、ファイアウォールのポート 8000 を開く必要があります。

コマンドライン・アシスタントのクライアント設定を変更した後、コマンドライン・アシスタントのデーモン (clad) が実行中の場合には、これを再起動する必要があります。 

$ sudo systemctl restart clad

使用方法

この時点ですべての設定が終了しているため、コマンドライン・アシスタントを使用して RHEL トピックに関するヘルプを得ることができます。RHEL のインストールや問題のトラブルシューティングなど、さまざまな質問をすることができます。以下に例を示します。

$ c "what is an immutable file?"

+ Asking RHEL Lightspeed

この機能には AI テクノロジーが活用されています。情報を入力する際には、個人情報やその他の機密情報を含めないでください。この対話については、Red Hat の製品やサービスを改善するために使用される場合があります。

Hello!I'm glad you're interested in learning about immutable files. (不変ファイルについて関心をお持ちのことを嬉しく思います。)An immutable file is a file that cannot be modified, deleted, or renamed after it has been created. (不変ファイルは、作成後に変更、削除、名前変更を実行できないファイルです。)This concept is often used in systems to ensure data integrity and security. (この概念は、データの整合性とセキュリティを確保するためにシステムで頻繁に使用されます。)

In Red Hat Enterprise Linux, you can create an immutable file using the chattr command. (Red Hat Enterprise Linux では、chattr コマンドを使用して、不変なファイルを作成できます。)Here's an example: (以下はその例です。)

[bash] Snippet

sudo chattr +i filename

This command will make the file named filename immutable. (このコマンドは、 filename という名前のファイルを変更不能にします。)You can verify that the file is immutable by using the lsattr command: (ファイルが不変であることを確認するには、 lsattr コマンドを使用します。)

[bash] Snippet

lsattr filename

The output will show an i attribute next to the file name, indicating that it is immutable. (出力では、ファイル名の横に i 属性が表示され、これが不変であることを示します。)

Remember, if you try to modify, delete, or rename an immutable file, you will receive an error message. (不変のファイルを変更、削除、または名前変更を実行しようとすると、エラーメッセージが表示されることに注意してください。)You can remove the immutability attribute using the -i option with the chattr command: (immutability 属性は、次のように chattr コマンドで -i オプションを指定して削除できます。)

[bash] Snippet

sudo chattr -i filename

I hope this helps! (お役に立てば幸いです。)Let me know if you have any other questions. (他にご質問がありましたらお知らせください。)

AI 生成コンテンツは、使用する前に必ず内容を確認してください。

最初のクエリー応答の遅延

初めてチャットセッションが開始される際には、モデルがシステムのメモリーにロードされます。そのため、最初の質問に対してのみ回答が遅れる場合があります。

CPU のみのシステム

コマンドライン・アシスタントの応答時間は、使用されているハードウェアによって異なります。GPU のないシステムで CPU 推論を使用してオフライン RHEL コマンドライン・アシスタントを使用することは可能ですが、応答時間が長くなります。

RHEL 9.6 および RHEL 10 で利用可能なコマンドライン・アシスタントのクライアントパッケージは、30 秒後にタイムアウトします。現時点で、この 30 秒のタイムアウトを設定することはできませんが、RHEL 9.7 および RHEL 10.1 でコマンドライン・アシスタントのパッケージが更新され、タイムアウトが設定可能になる予定です。

さらに、(上記で説明したように) 最初のクエリーで応答時間が遅いことがあり、30 秒のタイムアウトがトリガーされる可能性があります。

個々のシステムのユースケースが対象

RHEL コマンドライン・アシスタントのオフラインバージョンは、個々のシステムのユースケースを対象としています。たとえば、RHEL システムでホストし、そのシステムのコマンドライン・アシスタントのクライアントで使用できます。または、コマンドライン・アシスタントのクライアントで、個々の RHEL ワークステーションが特定のサーバーを指定するように設定して、サーバー上でホストすることもできます。これは、オフライン コマンドライン・アシスタントをホストするシステムに接続する複数の RHEL コマンドライン・アシスタントのクライアントによってスケールアウトすることを意図するものではありません。  

まとめ

RHEL コマンドライン・アシスタントの新しいオフラインバージョンの導入は、オフライン環境や接続されていない環境での RHEL ユーザーのサポートにおける大きな前進となります。この強力な自己完結型の AI を活用したアシスタントは、エアギャップされたネットワークやリモートロケーション、またはインターネット接続に制限のある環境で作業することが多い RHEL ユーザーに対して貴重なリソースを提供します。

これまでは、オフライン設定でドキュメントやトラブルシューティング情報などのリソースにアクセスすることは大きな課題であり、ダウンタイムや満足度の低下につながる可能性がありました。RHEL コマンドライン・アシスタントのオフラインバージョンを使用すると、ネットワークの可用性に関係なく、RHEL Lightspeed を活用して豊富な知識と AI による問題解決機能をすぐに利用でき、この課題に対処することができます。

RHEL コマンドライン・アシスタントのオフラインバージョンの詳細については、このドキュメントを参照してください。