Découverte des systèmes d'IA agentique avec Red Hat AI

L'IA agentique change complètement l'approche des entreprises en matière d'automatisation, de prise de décision et d'évolutivité. Cependant, la conception concrète d'un agent va plus loin qu'une simple instruction générative envoyée à un dialogueur (ou chatbot). Les systèmes agentiques prêts pour la production fonctionnent non seulement grâce à un grand modèle de langage, mais aussi grâce à une architecture unifiée dont le rôle est de coordonner le raisonnement, d'orchestrer les outils, d'alimenter la mémoire, de préserver les données et de déterminer le comportement des agents.

Ce livre numérique s'intéresse aux technicités de cette architecture, en se basant sur notre approche Open Source. De l'inférence et de l'orchestration des outils à la sécurité et à l'observabilité, chaque élément de base doit être modulaire, sécurisé et prêt pour la production. C'est là que les solutions Red Hat® AI entrent en jeu. Conçue à l'aide de Red Hat OpenShift® AI et optimisée par Llama Stack, l'offre Red Hat AI fournit le nécessaire pour concevoir, déployer et gérer des agents intelligents à grande échelle.

Red Hat AI permet aux entreprises de standardiser la conception et la mise à l'échelle des workflows agentiques, au lieu de dépendre de frameworks fragmentés et de chaînes d'outils incohérentes. Chez Red Hat, nous contribuons à unifier la découverte et l'utilisation des outils par les agents grâce à des normes ouvertes, telles que le protocole MCP (Model Context Protocol). En intégrant la sécurité, l'évaluation et l'automatisation de l'infrastructure, nous aidons les équipes à faire passer leur preuve de concept en production avec davantage de reproductibilité et de confiance.

Termes importants

• Systèmes et workflows d'IA agentique
  Les systèmes d'IA agentique ne sont pas de simples grands modèles de langage (LLM). Ils rassemblent plusieurs systèmes d'IA qui collaborent pour mobiliser un raisonnement, une mémoire, une planification et des outils externes afin d'accomplir des tâches complexes au fil du temps. Ces systèmes suivent des workflows structurés et permettent à l'IA d'agir de manière autonome ou semi-autonome dans des conditions réelles.
• Protocole MCP
  Le protocole MCP est une norme ouverte qui régit, de manière cohérente et interprétable, les interactions entre les agents IA et les outils, les données et la mémoire. Il aide les équipes de développement à concevoir des systèmes d'IA modulaires, réutilisables, et faciles à déboguer ou mettre à l'échelle.
• Llama Stack
  Llama Stack est une couche logicielle unifiée qui regroupe les modèles Llama dans des outils prêts pour la production. Elle comprend notamment des API (interfaces de programmation d'applications) et des fonctions d'orchestration, de journalisation et d'intégration d'outils. Elle simplifie le déploiement et l'exploitation des systèmes d'IA agentique basés sur Llama dans les environnements d'entreprise.
• LangChain
  LangChain est un framework Open Source qui aide les équipes de développement à concevoir des applications complexes à l'aide de modèles de langage. Au même titre que le protocole MCP et que Llama Stack, LangChain fournit les ressources nécessaires pour connecter des modèles à des données externes, à une mémoire et à des outils. Il ne s'agit pas du framework de base utilisé pour les solutions Red Hat AI. Cependant, la flexibilité de ces dernières permet d'adopter d'autres approches afin de s'adapter aux besoins d'un projet.

La création d'un système d'IA agentique ne se résume pas à intégrer un LLM à une application. Pour garantir son efficacité, un agent doit avoir un système capable de raisonner, de planifier, d'agir et d'apprendre. Or, toutes ces capacités reposent sur différents composants techniques. Par exemple, les chaînes de raisonnement divisent chaque problème en sous-tâches, les instructions génératives définissent le comportement de l'agent, la mémoire permet de conserver le contexte et les outils externes donnent les moyens d'agir au-delà des pondérations de base du LLM.

Les solutions Red Hat AI rationalisent cette architecture complexe. Basées sur OpenShift AI, elles rassemblent des capacités essentielles, telles que l'inférence, l'orchestration, la sécurité, l'observabilité et la conformité, et les connectent aux outils dont les agents IA ont besoin pour fonctionner efficacement.

Avec Red Hat AI, les équipes peuvent commencer par des cas d'utilisation simples et évoluer au fil du temps. De nombreuses entreprises commencent par créer des agents d'extraction internes. Elles déploient ainsi des bots optimisés par un LLM, capables de répondre à des questions à partir des données de l'entreprise. D'autres entreprises conçoivent des agents pour la correction des journaux et la résolution des incidents informatiques. Elles intègrent l'observabilité Red Hat OpenShift à la solution Red Hat Ansible® Automation Platform et aux API. En outre, le code est souvent migré à l'aide de l'IA. Les agents accompagnent les opérations de modernisation en analysant les référentiels et en suggérant des améliorations.

Ces agents ne sont pas de simples assistants : ils font partie de workflows en plusieurs étapes, avec un raisonnement et une mémoire intégrés. Face à la complexification des applications multi-agents, nous proposons des capacités complètes de gestion du cycle de vie et d'orchestration, qui assurent une délégation transparente et des points de contrôles pour les décisions. 

Cas d'utilisation

Comment les entreprises créent actuellement leurs agents 

Recrutement et coordination dans le cadre d'un essai clinique

Une entreprise du secteur de la santé a déployé un système agentique pour automatiser le recrutement lors des étapes préliminaires des essais cliniques. L'objectif était de réduire les tâches manuelles et d'accélérer l'évaluation des profils. Le système identifie d'abord les candidats potentiels grâce à des publicités sur Facebook ou à des dossiers médicaux numériques. Une fois ces données ingérées, un agent IA doté d'un contexte propre à l'essai effectue le premier contact par SMS (voire, de plus en plus, par appel vocal) avant de partager des informations sur l'essai réglementé et de répondre aux questions. Les candidats retenus sont redirigés vers un questionnaire de présélection afin de déterminer leur éligibilité. En cas de réussite, ils reçoivent un lien pour convenir d'un rendez-vous via un widget de planification. La conformité à la loi HIPAA (Health Insurance Portability and Accountability Act) des États-Unis est garantie grâce à des accords de partenariat avec les fournisseurs, comme OpenAI. Les données des patients ne sont jamais utilisées pour entraîner des modèles. Le système s'intègre aux outils standards pour centraliser la planification et le suivi des candidats.

L'un des défis les plus tenaces de l'IA pour les entreprises est le passage du prototype à la production, surtout pour les applications agentiques. La solution OpenShift AI aide à créer, exécuter et gérer ces applications.

OpenShift AI intègre nos principales technologies afin de fournir une base adaptée à la production pour les charges de travail agentiques. La clé de ce système est son modèle basé sur des opérateurs. Celui-ci encode les meilleures pratiques de déploiement et automatise la configuration de la plateforme. Les opérateurs rationalisent tout, de la mise à l'échelle automatique aux stratégies de mise à l'échelle horizontale et verticale, en passant par l'intégration de l'observabilité et l'optimisation des performances. Les équipes d'ingénierie peuvent ainsi concentrer leur attention sur la création d'agents plutôt que sur la gestion de l'infrastructure.

Grâce à OpenShift AI, qui s'appuie sur les fonctionnalités de Red Hat OpenShift, le cycle de vie des modèles d'IA prédictive et générative peut être géré à grande échelle.

La plateforme s'intègre nativement à des composants tels que Llama Stack et le protocole MCP, afin de contribuer à unifier les pratiques de développement et de déploiement. Les équipes de développement peuvent utiliser l'API Llama Stack compatible avec OpenAI comme base et déployer des agents en toute confiance, avec pour certitude que les interfaces utilisées lors des tests en local sont prises en charge dans les environnements de production. Les serveurs MCP offrent une solution standard pour l'exposition et la gestion des outils, en garantissant la compatibilité avec différents frameworks ainsi qu'une intégration robuste à notre pile de sécurité et d'observabilité.

La sécurité et la conformité occupent une place importante dans OpenShift AI. Chez Red Hat, nous avons une longue expérience des environnements réglementés, c'est pourquoi les applications agentiques peuvent être déployées en incluant directement des mesures de sécurité et un contrôle d'accès basé sur les rôles. Les outils d'observabilité intégrés aident les équipes à retracer les décisions des agents, à superviser les appels d'outils et à concevoir des pipelines d'analyse en vue d'une évaluation continue.

Cas d'utilisation

Comment les entreprises créent actuellement leurs agents

Automatisation des processus métier axée sur l'IA

Un client a développé un assistant d'approvisionnement capable de tirer parti des API des systèmes ERP (Enterprise Resource Planning) grâce au protocole MCP, d'interpréter les documents relatifs aux politiques et de formuler des recommandations quant aux fournisseurs à approuver. L'agent a automatisé des étapes courantes, telles que la vérification de l'éligibilité des fournisseurs et l'examen des conditions contractuelles. Le client a ainsi pu réduire les goulets d'étranglement dans les workflows d'approvisionnement, tout en garantissant la conformité. Cet exemple montre qu'il est possible d'intégrer des workflows agentiques aux systèmes existants sans reconstruire toute la logique de base de l'entreprise.

Les systèmes agentiques modernes s'appuient sur des outils pour enrichir les capacités des LLM. Si ces derniers sont capables de raisonner, ils ont besoin d'outils pour agir, accéder aux systèmes de l'entreprise et recueillir les informations en temps réel. Le protocole MCP fait le lien entre les agents et les outils externes. Malgré son apparition récente, le protocole MCP est rapidement devenu la nouvelle norme dans le domaine de l'IA agentique.

Avant l'arrivée de ce protocole, les outils devaient être intégrés manuellement, ce qui entraînait des problèmes de cohérence et de mise à l'échelle. Du code personnalisé devait être rédigé pour définir comment les agents découvraient et interagissaient avec les API. Il en résultait des efforts de développement inutiles, des mises à jour instables et de nouveaux risques à chaque changement au niveau du système. Le protocole MCP standardise ce processus avec une spécification modulaire et interopérable, qui permet aux agents de découvrir, de sélectionner et d'appeler des outils de manière fiable. C'est une norme universelle pour les workflows d'IA.

Grâce à elle, les équipes de développement peuvent exposer des fonctionnalités sous la forme d'outils à l'aide d'un protocole commun. Ces outils peuvent être des API, des bases de données, des systèmes métier, ou encore des utilitaires internes. Les serveurs MCP sont des hubs dans lesquels les outils sont hébergés, documentés et sécurisés. Les agents peuvent les interroger de manière dynamique, déterminer l'outil dont ils ont besoin et appeler des workflows sur plusieurs systèmes.

Cette standardisation facilite la participation à plus grande échelle. Une architecture utilisant le protocole MCP permet de réutiliser les définitions d'outil existantes, d'accélérer l'intégration et de réduire la fragmentation de la plateforme. Les entreprises peuvent également renforcer la cohérence de l'utilisation des outils sans réentraîner les modèles ni réécrire la logique.

Cependant, le protocole MCP présente ses propres défis. Une mauvaise description d'un outil peut tromper les agents et donner lieu à des appels accidentels ou à des hallucinations. Pire encore, les outils aux chaînes d'instructions génératives non sécurisées ou aux autorisations trop étendues peuvent créer des vulnérabilités.

Chez Red Hat, nous avons établi une feuille de route pour la mise en place d'une passerelle MCP qui atténue ces risques. Elle implique d'intégrer la gouvernance, la sécurité et l'observabilité directement à l'architecture du serveur MCP. Les serveurs MCP déployés au sein d'OpenShift AI bénéficient d'une intégration native avec les fonctionnalités de nos plateformes pour l'application de politiques, le contrôle d'accès basé sur les rôles et l'audit. Ainsi, l'accès aux outils exposés peut être géré rigoureusement selon les rôles et l'espace de noms afin de respecter les politiques relatives aux identités et aux autorisations.

En outre, grâce à la chaîne d'outils de sécurité de Red Hat OpenShift pour les conteneurs et les applications, les descriptions d'outil et les schémas d'instruction générative hébergés au sein du serveur MCP peuvent être scannés automatiquement afin d'en détecter les vulnérabilités. Les équipes chargées de la plateforme peuvent identifier les configurations d'outil potentiellement dangereuses, par exemple en cas de vulnérabilité à l'infiltration de requête ou d'exposition des systèmes back-end sensibles sans validation d'entrée adéquate.

Quant à l'exploitation, les outils d'observabilité de Red Hat OpenShift permettent de surveiller en permanence les interactions entre les agents et les outils. Les équipes peuvent consulter les tendances des appels d'outil, suivre des indicateurs de mesure de l'utilisation et définir des alertes quand des anomalies surviennent. Les journaux d'audit intégrés garantissent la traçabilité sur l'ensemble des chaînes d'utilisation des outils et de prise de décision. Les entreprises peuvent ainsi respecter plus facilement les exigences de conformité.

Cas d'utilisation

Comment les entreprises créent actuellement leurs agents 

Assistance client à grande échelle

Une entreprise du domaine de la cybersécurité a mis en œuvre un système d'assistance alimenté par l'IA. L'objectif était d'automatiser les discussions et la résolution des tickets en vue de réduire les temps d'attentes et la charge de travail des équipes. Un premier agent traite les requêtes avant de les envoyer à un agent de classification. Celui-ci les balise selon le sentiment, analyse leur niveau de priorité et contrôle la présence de vulgarités grâce à une liste de mots-clés et à une analyse des sentiments basée sur l'IA générative. Tout propos problématique entraîne un examen manuel. 

Un agent chargé de la résolution produit ensuite une réponse à l'aide de la génération augmentée de récupération (RAG), en s'appuyant sur la documentation interne et les anciens tickets. Si nécessaire, un agent de routage transmet les tickets risqués ou non résolus à l'équipe d'assistance humaine. Celle-ci valide les réponses suggérées par l'IA, notamment pour les contenus soumis à des exigences de conformité. Des journaux Airtable consignent les remplacements et les erreurs afin d'améliorer le modèle en continu. Une fois une requête clôturée, le sentiment est réévalué pour confirmer la satisfaction client.

Llama Stack est notre plan de contrôle d'IA unifié. Il s'agit d'un serveur d'API compatible avec OpenAI, conçu pour rationaliser le développement, le déploiement et la gestion des applications d'IA agentique. Interface centrale pour l'inférence, la mémoire, l'orchestration des outils et l'évaluation, Llama Stack garantit aux équipes de développement la cohérence et la flexibilité nécessaires afin de concevoir des agents sophistiqués pour tous les environnements.

Contrairement aux autres solutions, qui prennent souvent la forme de services hébergés, Llama Stack aide les entreprises à offrir une expérience similaire sur leur propre matériel et leurs propres clusters. Cette flexibilité est primordiale pour garantir la souveraineté des données, répondre à des exigences spécifiques en matière d'infrastructure ou éviter toute dépendance à un fournisseur.

Llama Stack fournit une couche d'API standard qui prend en charge l'ensemble du cycle de vie agentique, notamment la compatibilité avec les API d'OpenAI, au-delà de l'inférence. La solution est intégrée à OpenShift AI et permet d'effectuer les tâches les plus communes des agents (RAG, sécurité, évaluation, télémétrie, inférence axée sur le contexte, etc.). Les équipes de développement peuvent d'abord opter pour un déploiement local léger, puis évoluer vers une infrastructure d'entreprise tout en conservant les mêmes API, bibliothèques et interfaces.

Grâce aux API, Llama Stack est compatible avec les interfaces d'utilisation d'outils d'OpenAI ainsi que de nombreux frameworks couramment utilisés. Les équipes peuvent ainsi intégrer leurs agents et workflows existants sans modifier l'architecture, tout en bénéficiant d'une interface et d'outils de gestion du cycle de vie cohérents dans tous les environnements.

Llama Stack est la seule interface à offrir une couche d'API et un serveur Open Source qui standardisent le développement des applications d'IA pour l'ensemble des fournisseurs. Elle prend en charge les opérations d'inférence avec OpenAI ainsi que d'autres API pour les fonctions d'IA, telles que les évaluations, le post-entraînement, le stockage de vecteurs, et les mesures de protection utilisées pour la RAG et les workflows d'agent. Llama Stack peut s'exécuter dans des environnements autohébergés, sur site ou dans le cloud. Les entreprises peuvent ainsi déployer la solution selon leurs besoins.

OpenShift AI intègre un opérateur Kubernetes qui gère les tâches du cycle de vie Llama Stack. Il assure par exemple la mise à l'échelle automatique, l'observabilité et le contrôle des accès, afin de donner aux spécialistes du développement et de la plateforme un ensemble d'outils unifiés qui fiabilise l'évolution des agents. Llama Stack fournit également une prise en charge native de l'évaluation et de la télémétrie, notamment avec OpenTelemetry, ce qui permet de valider les performances des systèmes d'IA, de surveiller les indicateurs de mesure relatifs à la sécurité et de suivre le comportement des agents dans les environnements de production.

En plus de l'inférence, Llama Stack prend en charge les nombreuses variables des systèmes agentiques. La solution peut servir de passerelle entre les modèles locaux et hébergés, standardiser les outils de sécurité tels que TrustyAI et faciliter l'interaction avec les serveurs MCP. Les équipes de développement ont accès à une plateforme fiable pour les tests, les itérations et la mise en œuvre des agents, aussi bien pour les démonstrations de preuve de concept que pour l'automatisation de workflows de production.

Cas d'utilisation

Comment les entreprises créent actuellement leurs agents 

Productivité des équipes de développement

Un éditeur de logiciels a créé un assistant pour la migration du code. Celui-ci analyse les applications Java traditionnelles et recommande des mises à jour pour s'adapter aux frameworks modernes. L'agent utilise Llama Stack pour réaliser des opérations d'inférence et les outils intégrés au serveur MCP pour confirmer la compatibilité et suggérer des options de mise à niveau. Cette approche a permis de rationaliser le processus de migration, réduisant ainsi la dette technique et améliorant la résilience des applications. L'agent a également donné aux équipes de développement la possibilité de se consacrer à l'innovation, au lieu de réécrire le code existant.

L'IA agentique permet de créer des applications plus intelligentes et adaptables. Cependant, sans standardisation, les entreprises feront face à de la fragmentation, à des pertes d'efficacité et à des risques en matière d'exploitation. Red Hat AI fournit le nécessaire pour concevoir ces systèmes en toute confiance. Grâce à des solutions comme OpenShift AI, le protocole MCP, ou encore Llama Stack, nous offrons une base fiable pour faire passer les agents IA de la preuve de concept à la production.

En intégrant le raisonnement, l'utilisation d'outils, la mémoire, la sécurité et l'évaluation au sein d'une plateforme unifiée, Red Hat AI simplifie les tests, la mise à l'échelle et la mise en œuvre des agents IA.

• Les équipes de développement peuvent accéder à des API prêtes pour la production.
• Les équipes chargées de la plateforme peuvent gérer les cycles de vie et appliquer les mesures de sécurité.
• Les entreprises tirent parti de normes ouvertes pour protéger leurs investissements.

Du simple bot interne aux systèmes multi-agents, Red Hat AI donne les moyens de développer des applications agentiques d'entreprise axées sur la sécurité, de manière reproductible et selon des exigences spécifiques.