Éliminer le goulet d'étranglement de la RAG : traitement évolutif de documents avec Ray Data et Docling

Les équipes d'entreprise se heurtent souvent au « goulet d'étranglement des données » lors de la création d'applications d'IA générative telles que la génération augmentée de récupération (RAG), car les outils de traitement de documents traditionnels ne parviennent pas à gérer efficacement des milliers de documents complexes. Cet article de blog explique comment une infrastructure unifiée, combinant Ray Data pour la diffusion en continu à grande vitesse et DoclingPage affichée en Anglais (Français non disponible) pour l'analyse précise des documents, élimine ces obstacles. En déployant ces outils à l'échelle sur des plateformes telles que Red Hat OpenShift AI ou Anyscale, les entreprises peuvent transformer des données complexes et non structurées en informations exploitables en quelques heures plutôt qu'en plusieurs jours, et instaurer les bases de la confiance et de la fiabilité pour la prochaine vague d'innovations en matière d'IA.

Anyscale est à l'origine de Ray, un framework de calcul distribué qui fait désormais partie de la PyTorch Foundation. Anyscale propose également une plateforme d'IA. 

Red Hat OpenShift AI offre aux entreprises une plateforme évolutive pour développer et déployer l'IA. Cette solution s'appuie sur KubeRay pour exécuter des clusters Ray sur Kubernetes, offrant ainsi une fiabilité accrue et une mise à l'échelle automatique. En intégrant Docling pour l'analyse de documents, OpenShift AI permet aux équipes de gérer les tâches CPU et GPU sur un unique système. Cette approche réduit la surcharge système et accélère le déploiement des applications d'IA. 

La réalité du goulet d'étranglement des données du RAG

Les démonstrations donnent l'impression que la création d'applications d'IA générative est simple, mais la préparation et le traitement des données s'avèrent en réalité bien plus complexes. Imaginez que votre équipe vienne d'hériter de dizaines de milliers de documents PDF existants, et que la direction souhaite pouvoir y effectuer des recherches dans les plus brefs délais. Le traitement d'un tel volume de documents complexes, qui contiennent souvent des tableaux et des images, peut rapidement créer un goulet d'étranglement dont la résolution nécessite plusieurs semaines. En réalité, les équipes de projet d'IA consacrent la majeure partie de leur temps à la préparation des données plutôt qu'à l'entraînement et à l'optimisation des modèles.

Bien souvent, l'inefficacité des pipelines de données existants constitue le principal obstacle au développement du RAG. Le RAG améliore les réponses des grands modèles de langage (LLM) en extrayant le contexte pertinent d'une base de connaissances. Les documents sont traités (analyse, découpage et vectorisation), puis stockés dans une base de données vectorielle. Lors d'une requête, le système récupère les fragments pertinents et les transmet comme contexte au LLM. Ce processus améliore la précision des réponses, car elles s'appuient désormais sur les données de l'organisation, comme illustré ici :

Les frameworks de traitement de données traditionnels peinent souvent à répondre aux exigences de l'IA, car ils ne parviennent pas à coordonner efficacement les différents besoins en calcul du traitement des données avec l'analyse et la vectorisation des documents. Pour déployer l'IA à l'échelle, les équipes d'entreprise doivent s'orienter vers une infrastructure unifiée capable de prendre en charge à la fois l'analyse gourmande en CPU et la vectorisation gourmande en GPU au sein d'un processus unique et rationalisé.

Mise à l'échelle avec Ray Data et Docling

Ray Data constitue une bibliothèque de traitement distribué conçue spécifiquement pour les charges de travail d'IA et d'apprentissage automatique (ML). Son moteur d'exécution en continu orchestre le flux de données entre les tâches CPU et GPU, ce qui optimise l'utilisation des GPU tout en maintenant une consommation de mémoire constante. Étant natif Python, il élimine la surcharge de sérialisation générée par la conversion des données entre différents environnements de programmation, accélérant ainsi les cycles d'itération des pipelines de RAG.

Docling prend en charge l'analyse complexe sur laquelle butent souvent les outils traditionnels, contribuant ainsi à garantir que l'IA dispose du contexte adéquat pour fournir des réponses pertinentes. Grâce à une analyse précise des tableaux et de la mise en page des fichiers PDF, Docling aide à préserver la structure sémantique qui rend la recherche RAG plus utile. Lorsqu'il est intégré à Ray Data, chaque nœud exécute une instance Docling dotée de modèles d'IA spécialisés chargés en mémoire (pour traiter la mise en page et les tableaux, par exemple), ce qui permet un traitement distribué des documents à haute performance.

Ray Data rationalise le traitement à grande échelle en partitionnant les ensembles de données en blocs, qui sont diffusés en continu au sein d'un cluster pour permettre un parallélisme massif. Dans cette architecture, un pilote Ray Data gère le plan d'exécution et sérialise le code de la tâche (comme le traitement Docling) en vue de sa distribution, tandis que les workers Ray prennent en charge les calculs proprement dits. Ces workers lisent directement les blocs de données depuis le stockage et écrivent en parallèle les fichiers JSON générés vers la destination, de sorte que le pilote ne devienne jamais un goulot d'étranglement, comme l'illustre cette architecture :

Architecture de traitement des données d'IA

• Pilote Ray : Gère les ObjectRefs et le plan d'exécution, et sérialise le code Docling pour les workers.
• Flux de blocs : Les workers Ray récupèrent les données directement depuis le stockage d'entrée en parallèle.
• Écriture parallèle : Chaque worker écrit sa sortie JSON traitée directement dans le stockage, évitant ainsi de surcharger le pilote Ray avec le débit de données.

L'intégration gère automatiquement toute la complexité des systèmes distribués, notamment la planification, la récupération après défaillance et la gestion de la mémoire. L'utilisation d'une infrastructure de calcul hétérogène permet aux CPU d'analyser les données pendant que les GPU génèrent simultanément les vectorisations, ce qui optimise l'exploitation des ressources GPU coûteuses tout au long du processus.

Fiabilité de classe entreprise avec Red Hat OpenShift AI

OpenShift AI fournit un socle de niveau entreprise grâce à KubeRay, qui orchestre les clusters Ray sur Kubernetes tout en intégrant des fonctionnalités de fiabilité et de sécurité. KubeRay gère les complexités opérationnelles telles que la mise à l'échelle automatique et dynamique des clusters, la tolérance aux pannes et la récupération automatique en cas de défaillance des workers. Cette solution permet de passer de 10 à 100 nœuds de manière transparente afin de répondre aux exigences des tâches d'ingestion volumineuses.

Le flux de bout en bout est simple, comme l'illustre ce schéma :

Le processus se présente comme suit :

1. Les documents (par exemple des PDF) arrivent dans un stockage objet (tel que S3 ou un PVC).
2. Le pipeline Ray Data sur OpenShift AI lit ces documents et les distribue entre les workers.
3. Docling analyse les documents sur les workers, avant leur fragmentation pour le modèle de vectorisation.
4. Les vectorisations sont générées sur les nœuds GPU et écrites dans une base de données vectorielle comme Milvus.
5. Une application RAG interroge la base de données, fournissant ainsi du contexte à un LLM pour générer des réponses précises.

L'exécution sur OpenShift AI maintient le traitement des données au sein du cluster Kubernetes, ce qui facilite le respect des exigences de résidence des données et permet un déploiement dans des clouds privés virtuels ou des environnements sur site. Cette infrastructure unifiée réduit les coûts d'exploitation en permettant d'exécuter la préparation des données et le déploiement des modèles sur une même plateforme.

Perspectives : Vers des solutions agentiques

L'avenir de l'IA pour les entreprises passe par des solutions allant au-delà de la simple recherche et vers des solutions agentiques sophistiquées. Les entreprises devront renforcer et optimiser leurs pipelines de données afin de prendre en charge des workflows agentiques multi-étapes. Au sein de ces processus, des agents autonomes exploiteront le RAG et le réglage fin assisté par récupération (RAFT) pour résoudre des problèmes complexes. En associant le contexte en temps réel du RAG et la capacité de RAFT à « entraîner » un modèle à mieux ignorer le bruit non pertinent, les équipes peuvent concevoir des agents nettement plus précis et fiables.

Les entreprises qui investissent aujourd'hui dans des architectures évolutives seront mieux positionnées pour mettre en œuvre ces chaînes d'inférence avancées, où se succèdent plusieurs appels de LLM avec une allocation optimale des ressources. L'évolution vers l'IA agentique signifie que la qualité des données traitées s'avère plus cruciale que jamais, car les agents s'appuient sur une documentation précise pour exécuter des tâches pour le compte des utilisateurs. Un socle robuste permet à ces intégrations créatives de l'IA de respecter les normes de l'entreprise en matière de cohérence et de sécurité.

En fin de compte, l'objectif consiste à rendre les informations faciles à assimiler et à exploiter pour ces agents d'IA. Nous sommes convaincus que la réussite dans le domaine de l'IA générative repose d'abord sur l'accessibilité d'informations complexes via un soclec Open Source doté d'une gouvernance d'entreprise. En établissant dès à présent une plateforme robuste et unifiée, les entreprises peuvent aider leurs initiatives d'IA agentique à générer de la valeur à long terme et à instaurer une relation de confiance avec leurs utilisateurs.

Conclusion

Red Hat OpenShift AI et Anyscale fournissent les outils nécessaires pour transformer des documents complexes en informations exploitables. En éliminant le goulet d'étranglement du traitement des données grâce à Ray Data et Docling, nous aidons les organisations à se concentrer sur l'essentiel, à savoir résoudre des problèmes concrets.

Inscrivez-vous au Red Hat Summit 2026 pour échanger avec notre équipe et découvrir l'avenir de l'IA en production. Vous pouvez également essayer OpenShift AI dans la Red Hat Developer Sandbox grâce à un accès gratuit de 30 jours à un environnement entièrement géré où vous pourrez tester ces outils.