Déployer Red Hat AI avec la plateforme NVIDIA DSX™ pour des clouds d'IA évolutifs

Les clouds d'IA ont dépassé la phase initiale des tests pilotes, et le défi ne consiste plus simplement à configurer le matériel physique. Les entreprises doivent se concentrer sur l'exploitation d'une plateforme partagée efficace offrant des coûts d'exploitation prévisibles, l'accès aux puces informatiques les plus récentes et des mises à jour continues de la plateforme, sans dépendre d'un code personnalisé fragile ou d'ajustements logiciels complexes.

En intégrant le logiciel NVIDIA DSX OS™, qui fait partie de la plateforme DSX, à Red Hat AI, nous codéveloppons un framework de déploiement pour les clouds d'IA qui accélère l'innovation tout en offrant la fiabilité, l'évolutivité et l'excellence opérationnelle requises par les partenaires cloud de NVIDIA (NCP). L'intégration de NVIDIA Infra Controller (NICo), un composant logiciel de DSX OS, permet aux opérateurs de faciliter et de simplifier la gestion du cycle de vie en tirant parti du provisionnement bare-metal automatisé, et de générer rapidement des flux de revenus sécurisés et multi-clients.

L'ère de l'IA générative a évolué vers l'ère de l'usine d'IA agentique, où les datacenters fonctionnent comme des moteurs industriels conçus pour fabriquer en continu de l'intelligence sous la forme de jetons textuels. Alors que les équipes chargées des clouds d'IA et de l'infrastructure font évoluer ces environnements du mégawatt au gigawatt, la réussite ne dépend plus de l'expérimentation et des projets pilotes, mais de l'efficacité opérationnelle, du nombre de jetons textuels par watt et du coût total par jeton textuel.

En tant que composant essentiel de la plateforme NVIDIA DSX, le logiciel open source DSX OS est conçu pour exploiter et faire évoluer efficacement les clouds d'IA multi-clients.  En tant que premier partenaire validé NVIDIA AI Cloud Ready, Red Hat associe Red Hat AI à DSX pour apporter les capacités stratégiques requises par les clouds d'IA, leur permettant ainsi de se déployer et d'être gérés à grande échelle.

En associant le matériel accéléré et les architectures de référence NVIDIA à une plateforme certifiée, validée et fiable comme Red Hat AI, nous établissons la référence pour les usines d'IA entièrement intégrées et l'exécution des outils MCP (Model Context Protocol). Voici un aperçu du travail de codéveloppement qui donne vie à cette approche « Better Together » pour les clouds d'IA.

La base : architecture zero-day avec Project Voyager

Le niveau d'optimisation d'une usine d'IA dépend directement de la couche d'exploitation fondamentale qui la sous-tend. Afin d'éliminer les développements personnalisés et risqués qui peuvent retarder de plusieurs mois les déploiements d'infrastructure, Red Hat et NVIDIA ont intégré la prise en charge Day 0 de la plateforme directement dans le système d'exploitation avec Red Hat Enterprise Linux for NVIDIA.

Par l'intermédiaire d'un groupe d'intérêt spécifique CentOS dédié (le SIG Accelerated Infrastructure Enablement), les deux entreprises codéveloppent une intégration approfondie au niveau du noyau, la signature automatisée des pilotes et des chemins de code en amont pour les plateformes NVIDIA avancées telles que Grace Blackwell et Vera Rubin. Ce pipeline codéveloppé associe un accès immédiat aux performances des nouveaux processeurs à la stabilité en production, à la sécurité renforcée et aux cycles de vie prévisibles que les clients attendent de Red Hat Enterprise Linux.

Améliorer l'efficacité : excellence opérationnelle et du cycle de vie

L'exploitation d'une usine d'IA à l'échelle du gigawatt exige une gestion continue, auditable et sécurisée sur des milliers de nœuds multi-clients. Red Hat AI répond à ces exigences d'infrastructure cloud pour l'IA en s'intégrant directement aux composants clés de provisionnement et de cycle de vie de DSX OS :

• NVIDIA Infra Controller™ (NICo) : la gestion des déploiements de DPU à grande échelle représente un défi opérationnel majeur. NICo inclut NVIDIA DOCA™ Platform Framework (DPF), qui assure le provisionnement et la gestion du cycle de vie de bout en bout des DPU NVIDIA BlueField. En intégrant NICo à Red Hat OpenShift, la gestion du cycle de vie bare-metal devient entièrement pilotée par API. Avec NVIDIA BlueField-3, notre architecture conjointe applique des limites IaaS sécurisées, isolées au niveau matériel et multi-clients, gérées directement depuis le plan de contrôle Red Hat OpenShift.
• NVIDIA AI Cluster Runtime (AICR) : les écarts de configuration constituent la principale cause d'échec inattendu des tâches. AICR évite ce problème en appliquant des modèles de configuration validés et versionnés. Grâce à une étroite collaboration en amont, Red Hat fournit une intégration native de type modèle Helm pour les composants AICR (notamment Node Feature Discovery, les opérateurs GPU NVIDIA et les opérateurs réseau) sur Red Hat OpenShift, garantissant ainsi la parité logicielle sur l'ensemble des déploiements mondiaux.

Résilience automatisée : éliminer les temps d'arrêt dans les parcs de GPU à haute densité

Dans un environnement comprenant des dizaines de milliers de GPU, une visibilité continue sur l'état de santé de chaque nœud est une nécessité opérationnelle quotidienne. Les processus d'alerte manuels allongent les délais de reprise et gaspillent de l'énergie et des cycles de calcul. En combinant l'automatisation du contrôle de l'état de santé de DSX OS avec Red Hat OpenShift, les opérateurs de clouds d'IA peuvent automatiquement détecter, isoler et corriger les anomalies système en temps réel, sans intervention humaine.

• NVIDIA NVSentinel : Red Hat et NVIDIA valident le déploiement de NVSentinel sur Red Hat OpenShift. Grâce à des manifestes OpenShift personnalisés et à des scripts automatisés, NVSentinel assure la détection native dans Kubernetes des défaillances de GPU. Dès la détection d'incidents matériels ou de pilotes critiques, il isole automatiquement les nœuds compromis et réaffecte les charges de travail à des nœuds sains pour préserver les tâches.
• NVIDIA Fleet Intelligence : l'exécution d'agents Fleet Intelligence sur les nœuds Red Hat OpenShift permet la collecte et l'agrégation en continu des données de télémétrie des clusters dans des tableaux de bord Grafana, offrant aux équipes d'exploitation une visibilité en temps réel sur l'ensemble des environnements de cloud hybride.

Validation préalable au déploiement : créer des jumeaux numériques avec NVIDIA DSX Air

Avant de déployer le matériel physique, les architectes peuvent modéliser et valider les flux opérationnels à l'aide de NVIDIA DSX Air, une plateforme SaaS qui simule les ressources de calcul, le réseau et les configurations de commutateurs de datacenter. En intégrant des empreintes logicielles Red Hat légères comme Single Node OpenShift à DSX Air, les équipes d'ingénierie des clouds d'IA peuvent simuler en toute sécurité des topologies réseau multi-clients, tester le routage BGP et valider les scripts de mise à niveau logicielle Day 2 sur des nœuds virtuels avant de déployer les modifications en production.  

Opérations agentiques : sécuriser le protocole MCP (Model Context Protocol) dans un cloud d'IA multi-client

NVIDIA DSX OS expose la télémétrie et les commandes opérationnelles du datacenter par l'intermédiaire de serveurs Model Context Protocol (MCP) spécifiques à chaque domaine, offrant ainsi aux agents d'IA un catalogue d'outils unifié. Red Hat AI régit cette couche agentique en établissant des contrôles d'accès limités aux espaces de noms et des limites de sécurité Zero Trust au sein d'OpenShift. Grâce au RBAC natif d'OpenShift, au multi-tenant et à la journalisation des audits, les serveurs MCP validés permettent aux agents autonomes d'interroger en toute sécurité les métriques du cluster, d'inspecter les journaux et d'aider à l'analyse des causes profondes (comme la corrélation des pics thermiques avec les pertes de paquets réseau), sans dépasser les privilèges d'administration ni introduire de risque opérationnel.

Conclusion : solutions pour des clouds d'IA et des usines d'IA évolutifs

Construire une usine d'IA ne devrait pas ressembler à un projet scientifique maintenu par du code d'assemblage fragile et des raccordements personnalisés de pilotes. La véritable valeur du partenariat entre Red Hat et NVIDIA réside dans la transformation de l'innovation matérielle en solutions prévisibles, sécurisées et prévalidées, tant pour les entreprises que pour les partenaires cloud de NVIDIA (NCP).

En associant les architectures NVIDIA DSX OS à la sécurité validée et aux limites opérationnelles de Red Hat AI, les équipes de production bénéficient d'une plateforme prête pour la production permettant de déployer des clouds d'IA à grande échelle. De la prise en charge matérielle Day 0 à la correction automatisée des parcs de machines avec NVSentinel, cette plateforme de cloud d'IA permet aux NCP d'innover rapidement, sans la charge liée à la gestion de la complexité de la plateforme sous-jacente.

Red Hat AI Factory with NVIDIA est une solution d'IA d'entreprise conçue pour créer, déployer et gérer des usines d'IA grâce aux ressources de calcul accéléré, au réseau et aux logiciels de NVIDIA. Red Hat AI Factory with NVIDIA associe les capacités de Red Hat AI Enterprise au logiciel NVIDIA AI Enterprise pour déployer des usines d'IA d'entreprise reproductibles, évolutives et sécurisées.

Découvrez comment Red Hat et NVIDIA codéveloppent le standard des usines d'IA modernes, sécurisées et entièrement automatisées, pour les déploiements en entreprise comme à l'échelle du cloud. Découvrez notre partenariat stratégique et nos solutions conjointes ici.

En savoir plus sur Red Hat AI Factory with NVIDIA.