RAG のボトルネックを解消する：Ray Data と Docling によるスケーラブルなドキュメント処理

企業チームは、 検索拡張生成 (RAG) のような 生成 AI アプリケーションを構築する際に、「データボトルネック」に悩まされることがよくあります。これは、従来の文書処理ツールでは、何千もの複雑な文書を効率的に処理できないためです。このブログ記事では、高速ストリーミング向けの Ray Data と、正確なドキュメント解析向けの Docling を組み合わせた統合インフラストラクチャが、どのようにこれらの障害を取り除くかについて解説します。これらのツールを Red Hat OpenShift AI や Anyscale などのプラットフォーム上でスケーリングすることで、組織は整理されていない非構造化データを、数日ではなく数時間で実用的なインサイトに変換でき、次の AI イノベーションの波に向けて信用と信頼性の基盤を築くことができます。

Anyscale は、現在 PyTorch Foundation の一部となっている分散コンピューティングのフレームワークである Ray を支える企業です。Anyscale は AI プラットフォームも提供しています。 

Red Hat OpenShift AI は、 AI を開発し、デプロイするためのスケーラブルなプラットフォームを組織に提供します。このプラットフォームは、 KubeRay を使用して Kubernetes 上で Ray クラスタを実行し、信頼性の向上と自動スケーリングを可能にします。OpenShift AI は、ドキュメント解析のために Docling を追加することで、チームが CPU タスクと GPU タスクを 1 つのシステム上で管理できるようにします。これにより、オーバーヘッドを削減し、 AI アプリケーションのデリバリーを高速化できます。 

RAG データにおけるボトルネックの現状

デモを見ると、生成 AI の構築は簡単そうに見えますが、データの準備や処理は、ははるかに複雑な現実の課題となっています。皆さんのチームが数万もの既存の PDF ファイルを引き継いだばかりで、CEO がそれらをできるだけ早く検索可能にしたいと考えていると想像してみてください。表や画像を含む非常に多くの複雑なドキュメントを処理することは、すぐにボトルネックを生じさせ、解消までに数週間を要する場合があります。厳しい現実として、ほとんどの AI プロジェクトは、モデルのトレーニングやチューニングよりも、データ準備に多くの時間を費やしています。

多くの場合、 RAG 開発における最大の障壁は、レガシーデータのパイプラインの非効率性に関連するものです。 RAG は、ナレッジベースから関連するコンテキストを取得することで、大規模言語モデル (LLM) の応答を強化します。ドキュメントの処理 (解析、チャンク化、埋め込み) を行い、ベクトルデータベースに保存します。クエリ時には、関連するチャンクを取得して LLM にコンテキストとして提供します。これにより、以下に示すように、応答が組織のデータに基づくものとなり、応答の精度が向上します。

従来のデータ処理フレームワークは、ドキュメントの解析や埋め込みを伴うデータ処理フローに関する異なるコンピューティング要件を効果的に調整できないため、AI のニーズに対応することができないことがよくあります。AI を拡張するために、企業チームは、 CPU 負荷の高い解析と GPU 負荷の高い埋め込みの両方を、単一の最適化されたプロセスで処理する統合インフラストラクチャへと移行する必要があります。

Ray Data と Docling によるスケーリング

Ray Data は、 AI および機械学習 (ML) ワークロード専用に構築された分散処理ライブラリです。Ray Data のストリーミング実行エンジンは、 CPU タスクと GPU タスク間でデータをパイプライン処理し、一定のメモリー使用量を維持しながら GPU 使用率を向上させます。このライブラリは Python ネイティブであるため、異なる言語環境間でデータを変換する際のシリアル化のオーバーヘッドを排除し、 RAG パイプラインの反復サイクルを高速化します。

Docling は、従来のツールが誤りがちな複雑な解析を処理し、 AI が有用な回答を提供するために適切なコンテキストを確実に得られるよう支援します。Docling は、 PDF 内の表やレイアウトを正確に解析することにより、 RAG による検索の有用性を高めるセマンティック構造を維持するのに役立ちます。Ray Data と統合すると、各ノードが、エキスパート AI モデル（レイアウトや表などの処理を行う) をメモリー内に組み込んだ Docling インスタンスを実行し、高性能な分散ドキュメント処理を可能にします。

Ray Data は、データセットをブロックに分割し、クラスタを介してストリーミングして大規模な並列処理を可能にすることで、大規模な処理を効率化します。このアーキテクチャでは、Ray Data ドライバーが実行プランを管理し、 (Docling 処理などの) タスクコードを配布用にシリアル化します。一方、Ray ワーカーが実際の計算処理を担います。これらのワーカーはストレージから直接データブロックを読み取り、結果の JSON ファイルを宛先に並列に書き込むため、このアーキテクチャに示すように、ドライバーがボトルネックになることはありません。

AI データ処理アーキテクチャ

• Ray ドライバー：ObjectRefs と実行プランを管理し、ワーカー用に Docling コードをシリアル化します。
• ストリーミングブロック：Ray ワーカーは、入力ストレージからデータを並列に直接取得します。
• 並列書き込み：各ワーカーは処理された JSON 出力をストレージに直接書き込むため、Ray ドライバーにデータスループットの負荷が集中することはありません。

この統合機能は、スケジューリング、障害復旧、メモリー管理など、分散処理に伴う複雑な処理をすべて自動的に処理します。異種コンピューティングを利用することで、CPUがデータを解析する一方で、GPUが同時にデータを埋め込むことが可能になり、高価な GPU リソ​​ースをプロセス全体を通してより効率的に利用できるようになります。

Red Hat OpenShift AI によるエンタープライズの信頼性

OpenShift AI は KubeRay を通じてエンタープライズ基盤を提供し、信頼性とセキュリティ機能が組み込まれた Ray クラスタを Kubernetes 上でオーケストレーションします。KubeRay は、動的なクラスタの自動スケーリング、フォールトトレランス、およびワーカーノードに障害が発生した場合の自動復旧など、運用上の複雑なプロセスを処理します。これにより、大規模な取り込みジョブの需要に合わせて、10 - 100 ノードまで透過的にスケーリングできます。

エンドツーエンドのフローは、以下に示すように非常に分かりやすいフローになっています。

プロセスは次のようになります。

1. ドキュメント (PDF など) がオブジェクトストレージに格納されます (S3 や PVC など)。
2. OpenShift AI 上の Ray Data パイプライン がこれらのドキュメントを読み取り、ワーカーノード全体に配信します。
3. ワーカーノード上で Docling がドキュメントを解析し、続いて、埋め込みモデル用にこれらをチャンク化します。
4. GPU ノード上で埋め込みを生成し、Milvus などのベクトルデータベースに書き込みます。
5. RAG アプリケーションがデータベースにクエリを実行し、そのコンテキストを LLM に提供して正確な応答を生成します。

OpenShift AI 上で処理を実行することで、データ処理を Kubernetes クラスタ内に維持できるため、データレジデンシー要件を満たしやすくなり、仮想プライベートクラウドやオンプレミス環境へのデプロイも可能になります。この統合インフラストラクチャを使用すると、データの準備とモデル提供を同一プラットフォーム上で実行できるため、運用上のオーバーヘッドを削減できます。

今後の展望：エージェント型ソリューションへの移行

エンタープライズ AI の未来は、単なる検索から高度なエージェント型ソリューションへと移行できるかどうかにかかっています。組織は、自律型エージェントが RAG や検索拡張ファインチューニング (RAFT) を使用して複雑な問題を解決する、マルチステップのエージェント型ワークフローをサポートするために、データパイプラインを強化し、継続的に改善する必要があります。RAG のリアルタイム・コンテキストと、無関係なノイズをより適切に無視する方法をモデルに「トレーニング」する RAFT の機能を組み合わせることで、チームは格段に正確で信頼性の高いエージェントを構築できます。

現在、スケーラブルなアーキテクチャに投資している企業は、複数の LLM 呼び出しが最適なリソース割り当てで順次実行される、こうした高度な推論チェーンを実装する上で有利な立場に立つことができるでしょう。エージェント型 AI への移行は、処理するデータの品質がこれまで以上に極めて重要になることを意味します。エージェントがユーザーに代わってタスクを実行するには、正確なドキュメントが必要となるためです。強固な基盤があれば、これらの革新的な AI 実装は、一貫性と安全性に関する企業基準を満たすことができます。

最終的な目標は、これらの AI エージェントが情報を容易に理解し、それに基づいて行動できるようにすることです。私たちは、生成 AI の成功は、企業ガバナンスを備えたオープンソース基盤を通じて、複雑な情報にアクセスできるようにすることから始まると考えています。企業は堅牢な統合プラットフォームの構築に取り組むことで、エージェント関連の取り組みが長期的な価値を生み出し、ユーザーとの信頼関係を築くことができます。

まとめ

Red Hat OpenShift AI と Anyscale は、複雑なドキュメントを実用的なインテリジェンスに変換するために必要なツールを提供します。私たちは、Ray Data と Docling によってデータ処理のボトルネックを解消することで、組織が最も重要な取り組み、つまり現実世界の課題の解決に集中できるよう支援します。

Red Hat Summit 2026 にご登録の上、当社のチームとつながり、プロダクション AI の未来を探求してください。また、Red Hat Developer Sandbox では、これらのツールをテストできるフルマネージド環境に 30 日間無料でアクセスし、OpenShift AI をお試しいただくことができます。