L'IA/AA sur Red Hat OpenShift

L'intelligence artificielle et l'apprentissage automatique (IA/AA) sur Red Hat® OpenShift® accélèrent les workflows d'IA/AA et la distribution d'applications intelligentes basées sur l'IA avec la solution Red Hat OpenShift autogérée ou avec le service cloud d'IA/AA.

La solution Red Hat OpenShift inclut des fonctionnalités clés qui permettent d'appliquer les pratiques MLOps de manière cohérente dans les datacenters, dans le cloud public et en périphérie du réseau.

En appliquant les principes DevOps et GitOps, les entreprises automatisent et simplifient le processus itératif d'intégration des modèles d'apprentissage automatique dans les processus de développement logiciel, de déploiement en production, de surveillance, de réentraînement et de redéploiement pour assurer la précision des prévisions. 

Le cycle de vie de l'AA est un processus en plusieurs phases qui permet de tirer parti du potentiel de grands volumes de données variées, d'informations de calcul foisonnantes et d'outils Open Source d'apprentissage automatique pour créer des applications intelligentes.

Le cycle de vie de l'AA se décompose globalement en quatre phases :

1. Collecte et préparation des données pour assurer l'exhaustivité et la qualité des données d'entrée
2. Développement de modèles, notamment avec l'entraînement, le test et la sélection des modèles qui offrent le plus haut niveau de justesse des prédictions
3. Intégration des modèles au processus de développement d'applications et réalisation des prédictions (inférence)
4. Surveillance et gestion des modèles pour mesurer les performances métier et corriger les écarts éventuels au niveau des données de production

La mission première des data scientists consiste à développer des modèles d'AA et à s'assurer que le modèle sélectionné fournisse en permanence le plus haut niveau de justesse des prédictions. 

Voici leurs principaux défis :

• Sélectionner et déployer les bons outils d'AA (Apache Spark, Jupyter Notebook, TensorFlow, PyTorch, etc.)
• Entraîner, tester, sélectionner et entraîner à nouveau le modèle d'AA pour maximiser la justesse des prédictions, de façon plus simple et plus rapide
• Exécuter plus rapidement les tâches de modélisation et d'inférence grâce à l'accélération matérielle
• Provisionner et gérer l'infrastructure sans l'intervention de l'équipe informatique
• Collaborer avec les ingénieurs de données et les développeurs de logiciels pour assurer la qualité des données d'entrée et réussir le déploiement des modèles d'AA dans les processus de développement d'applications

Les conteneurs et Kubernetes sont essentiels pour accélérer le cycle de vie de l'AA, car ces technologies offrent aux data scientists l'agilité, la flexibilité, la portabilité et l'évolutivité dont ils ont tant besoin pour entraîner, tester et déployer des modèles d'AA.

Red Hat® OpenShift® est la plateforme de cloud hybride Kubernetes et de conteneurs leader sur le marché. Outre les avantages cités précédemment, cette solution permet une meilleure collaboration entre les data scientists et les équipes de développement de logiciels, et accélère le déploiement d'applications intelligentes dans le cloud hybride (au niveau du datacenter, en périphérie du réseau et dans les clouds publics). Tout cela est rendu possible grâce aux fonctionnalités DevOps intégrées (OpenShift Pipelines, OpenShift GitOps et Red Hat Quay, entre autres) et à la prise en charge d'accélérateurs matériels.

Red Hat OpenShift Data Science

Red Hat OpenShift Data Science est un service cloud géré et autogéré pour les data scientists et les équipes de développement d'applications intelligentes. Il fournit un sandbox entièrement pris en charge pour développer, entraîner et tester rapidement des modèles d'apprentissage automatique dans le cloud public avant leur déploiement en production.

Davantage de moyens pour les data scientists

• Expérience cloud cohérente et en libre-service pour les data scientists dans le cloud hybride
• Flexibilité et portabilité nécessaires pour utiliser les outils d'AA conteneurisés de leur choix afin de créer, mettre à l'échelle, reproduire et partager rapidement des modèles d'AA
• Possibilité d'utiliser les outils d'AA les plus pertinents grâce à des opérateurs Kubernetes certifiés Red Hat, pour le service cloud d'IA et la solution autogérée
• Indépendance vis-à-vis de l'équipe informatique pour le provisionnement de l'infrastructure nécessaire aux tâches de modélisation d'AA itératives et intensives en calcul
• Plus aucun problème de dépendance vis-à-vis d'un fournisseur cloud particulier et de ses outils d'AA
• Intégration étroite aux outils CI/CD pour un déploiement rapide et itératif des modèles d'AA, selon les besoins

Accélération des tâches de modélisation d'AA intensives en calcul

L'utilisation des principaux accélérateurs matériels comme les GPU NVIDIA via l'opérateur GPU certifié Red Hat permet à OpenShift de s'adapter facilement aux besoins élevés en ressources de calcul. Les équipes peuvent ainsi sélectionner le modèle d'AA qui offre le plus haut niveau de justesse des prédictions, et les tâches d'inférence à mesure que le modèle reçoit de nouvelles données en production.

Développement d'applications intelligentes

Les capacités DevOps intégrées d'OpenShift permettent au modèle MLOps d'accélérer la distribution d'applications basées sur l'IA et de simplifier le processus itératif d'intégration des modèles d'apprentissage automatique et de redéploiement continu pour assurer la précision des prédictions.    

L'extension des capacités d'automatisation des processus DevOps d'OpenShift au cycle de vie de l'AA favorise une meilleure collaboration entre les data scientists, les développeurs de logiciels et les équipes d'exploitation informatique, ce qui permet d'intégrer rapidement les modèles au développement d'applications intelligentes. Cette approche stimule la productivité et simplifie la gestion du cycle de vie des applications intelligentes basées sur l'AA.

• Création à partir du registre d'images de modèles de conteneurs avec OpenShift Build
• Développement continu et itératif d'applications intelligentes basées sur des modèles d'AA avec OpenShift Pipelines
• Automatisation du déploiement continu de ces applications intelligentes avec OpenShift GitOps
• Modélisation des images de conteneurs et des microservices avec le référentiel d'images Red Hat Quay

La plateforme OpenShift aide les entreprises de divers secteurs à accélérer leurs initiatives métier et essentielles en développant des applications intelligentes dans le cloud hybride. Elle s'utilise notamment pour la détection des fraudes, les diagnostics de santé basés sur les données, les voitures connectées, l'exploration pétrolière et gazière, les devis d'assurance automatisés et le traitement des sinistres.

L'offre Red Hat Data Services a été conçue pour répondre aux besoins de stockage à l'échelle du pétaoctet dans le cycle de vie de l'AA, depuis l'ingestion et la préparation des données jusqu'à la phase d'inférence, en passant par la modélisation de l'AA. Elle comprend Red Hat Ceph Storage, un système Open Source de stockage logiciel qui assure la prise en charge complète du stockage en modes fichier, bloc et objet S3, et qui se veut hautement évolutif sur du matériel standard.

Vous pouvez par exemple l'utiliser avec des notebooks Jupyter conteneurisés sur OpenShift via des volumes persistants ou S3.

Turkcell, le premier opérateur de téléphonie mobile en Turquie, a déployé la solution Red Hat OpenShift comme base de ses charges de travail d'applications basées sur l'IA. Avec OpenShift, l'opérateur a créé une infrastructure réactive pour fournir plus rapidement des applications d'IA novatrices, réduisant ainsi les délais de provisionnement de plusieurs mois à quelques secondes. Les coûts de développement et d'exploitation de l'IA ont également dégringolé de 70 %.

La Banque Royale du Canada et son institut de recherche sur l'IA, Borealis AI, se sont associés à Red Hat et NVIDIA pour développer une nouvelle plateforme informatique conçue pour transformer l'expérience bancaire des clients et aider la banque à suivre le rythme des changements technologiques rapides ainsi que l'évolution des attentes de la clientèle.

Open Data Hub Project est une architecture fonctionnelle basée sur Red Hat OpenShift, Red Hat Ceph Storage, Red Hat AMQ Streams et plusieurs projets Open Source en amont, qui inclut tous les outils nécessaires à la création d'une plateforme d'AA ouverte.

Ensemble, Red Hat OpenShift et la suite logicielle NVIDIA AI Enterprise, exécutée sur des systèmes certifiés NVIDIA, forment une plateforme évolutive qui permet d'accélérer de nombreux cas d'utilisation variés de l'IA. Cette plateforme comprend les principales technologies de NVIDIA et Red Hat qui permettent de gérer et faire évoluer en toute sécurité les charges de travail de l'IA de manière cohérente dans le cloud hybride ainsi que dans les environnements bare metal ou virtualisés.

L'intelligence artificielle et l'apprentissage automatique transforment actuellement de nombreux secteurs, comme ceux de la santé, des services financiers, des télécommunications et de l'automobile. Nous avons mis en place un écosystème robuste de partenaires qui proposent des solutions complètes destinées à la création, au déploiement et à la gestion des modèles d'apprentissage automatique et d'apprentissage profond pour les applications intelligentes basées sur l'IA.