Docling：生成 AI に欠かせないドキュメント処理ツール

Docling のランキングが上昇し、GitHub の月間トップリポジトリの 1 つになりました。

組織は、知的財産や知識、マーケティング、売上および顧客データ、運用ポリシーや手順など、大量のデータを保有しています。  課題となっているのはデータの収集やドキュメントの生成ではなく、データから有意義な知見を抽出することです。実用的な知見があれば、カスタマーサービスの改善、顧客価値実現までの時間の短縮、よりスムーズな業務などが実現します。生成 AI には、このギャップを解消し、山のようにある組織のデータを戦略的な知見に変換する可能性があります。

しかし、データが大規模言語モデル (LLM) で直接使用できない形式で保存されている場合、生成 AI の可能性を引き出すことはできません。データが PDF ファイルや、docx などのプロプライエタリーなドキュメント形式になっている場合がこれに該当し、モデルを組織のニーズに合わせる際の妨げとなります。これらの課題を解決するために、組織は既存のドキュメントを前処理し、ファインチューニング・パイプラインや検索拡張生成 (RAG) の作成に使用できる形式に変換する必要があります。

これは単なる OCR やテキスト抽出だけでは対処できません。この前処理段階において重要なのは、コンテキストおよび要素を認識した手法に従ってデータを抽出する必要があるということです。たとえば、表が複数のページにまたがっている場合、それを 1 つの表として抽出する必要があります。また、各ページに複数のテキスト列があるレイアウトとなっていたり、画像や表などの要素が混在していたりするドキュメントの場合は、各要素を一貫して抽出し、抽出元のコンテキストを認識しておく必要があります。

何年にもわたって、多くのオープンソースツールがこの課題の一部分、あるいはいくつかの部分を解決しようと試みてきましたが、問題全体に対処するものはありませんでした。そのような断片化したアプローチでは、複雑なパイプラインを使用し、ばらばらのツールをつなぎ合わせて、同じドキュメントを異なるツールで複数回処理する必要があります。その結果には一貫性がなく、計算コストがかかり、維持管理が複雑になり、出力の品質にもばらつきが出ます。

InstructLab でモデルをファインチューニングするためにドキュメントを処理する、ドキュメントの取り込みパイプラインを作成するとき、私たちも同じ課題に直面しました。そこで、IBM Research で開発されたプロジェクトである Docling を見つけ、採用しました。これが私たちのワークフローに変革をもたらしてくれました。IBM が 2024 年秋にオープンソース・プロジェクトとして Docling をリリースして以降、このツールは NLP 分野で注目を集めるようになり、Red Hat の早期導入が間違っていなかったことが裏付けられています。オープンソースの生成 AI エコシステムにおいて、その影響力が増大していることを嬉しく思っています。

Docling の概要

Docling はアップストリームのオープンソース・プロジェクトおよびツールです。.pdf、.docx、.pptx、html などのドキュメントを解析し、Markdown や JSON などの形式に変換できるため、生成 AI アプリケーション向けのコンテンツの準備が容易になります。スキャンされたドキュメントに対する高度な PDF 処理 OCR (光学式文字認識) をサポートし、RAG や質問応答タスク用の LlamaIndex や LangChain などのツールと統合できます。

出典：https://github.com/DS4SD/docling?tab=readme-ov-file

Docling を実際に試す

パッケージマネージャーを使って Docling をインストールするだけです。以下は pip を使用した例です。

# pip install docling

インストールが完了したら、Python モジュールでプログラムを使用して、あるいは Docling CLI を使用してドキュメント変換を行うことができます。

from docling.document_converter import DocumentConverter source = "https://arxiv.org/pdf/2408.09869"  # PDF path or URL converter = DocumentConverter() result = converter.convert(source) print(result.document.export_to_markdown())  # output: "### Docling Technical Report[...]" # docling https://arxiv.org/pdf/2206.01062

このデータ変換を設定するためのその他の方法と詳細については、プロジェクトリポジトリで確認できます。

Docling の現在の使用状況

Docling はすでに InstructLab コミュニティによって使用されており、ユーザーは公開データセットを InstructLab タクソノミーに提出できます。ユーザーは https://ui.instructlab.ai/ にアクセスしてデータセットを送信することで、オープンソースの InstructLab granite-lab コミュニティモデルの今後のバージョンに含めることができます。この granite-lab モデルは、オープンソースの Granite-7b ベースモデルに基づいており、コミュニティメンバーが提供した新しい知識とスキルが追加され、InstructLab でカスタマイズされています。今後の granite-lab リリースでは、オープンソースの Granite-3.0-8b ベースモデルが使用され、InstructLab でカスタマイズされます。このサービスは、Docling を使用してユーザーのドキュメントを InstructLab タクソノミーに必要なデータ形式に変換します。これにより、新たな知識をもたらすドキュメントの提案が単純化されます。  同じツールを使用して、ユーザーのプライベートモデルのインスタンスをカスタマイズすることも可能です。 

Red Hat と Docling

Red Hat は、同じ機能をエンタープライズのお客様にも提供するために、Red Hat Enterprise Linux AI (RHEL AI) と InstructLab を今年初頭にリリースしました。RHEL AI はエンタープライズに特化された基盤モデル・プラットフォームであり、オープンソースの生成 AI 機能を統合し、ハイブリッドクラウド環境でのデプロイメントのために最適化されています。IBM のオープンソースである Granite LLM と Red Hat の InstructLab ツールを組み合わせることで、ドメインエキスパート (データサイエンティストだけではない) が業界固有の知識を使用してモデルをファインチューニングし、組織独自のニーズとデータにモデルを最適化することができます。これらのモデルは、エンタープライズ・データセンター、パブリッククラウド、エッジ環境を含むハイブリッドクラウド環境全体でデプロイして管理できます。

当社は、IBM Research が Docling をオープンソースにすると決定したこと、およびこの分野でのイノベーションに対する同社の継続的なコミットメント、つまり生成 AI をより身近で成果を得やすくするという取り組みを、高く評価しています。  今後の RHEL AI のリリースには、サポート付き機能として Docling を含める予定です。これにより、お客様はさまざまな形式で独自のエンタープライズデータをより簡単に取り込むことができ、それを InstructLab で RHEL AI の合成データ生成およびフェーズトレーニングに提供して独自のモデルインスタンスをカスタマイズおよびチューニングできます。

私たちは Docling がオープンソース・コミュニティにもたらすイノベーションとユーザーが得られるメリットに大きな期待を寄せており、これらの機能を RHEL AI ユーザーに提供できることを楽しみにしています。オープンソース・プロジェクトによって生成 AI がより身近なものになっていくスピードは驚異的です。Red Hat はこれらのアップストリーム・コミュニティをサポートするとともに、このイノベーションをエンタープライズ対応機能としてお客様にお届けできることを嬉しく思います。

動画を視聴して詳細を見る