Red Hat SummitL'IA/ML sur Red Hat OpenShift, qu'est-ce que c'est ?
L'exploitation des technologies d'IA/ML sur Red Hat OpenShift accélère les workflows d'IA/ML et la distribution d'applications intelligentes basées sur l'IA, notamment avec la solution Red Hat OpenShift autogérée ou avec le service cloud d'IA/ML.
Le modèle MLOps avec Red Hat OpenShift
La solution Red Hat OpenShift inclut des capacités clés qui permettent d'appliquer les pratiques MLOps de manière cohérente dans les datacenters, dans le cloud public et dans les sites d'edge computing.
En appliquant les principes DevOps et GitOps, les entreprises automatisent et simplifient le processus itératif d'intégration des modèles d'apprentissage automatique dans les processus de développement logiciel, de déploiement en production, de surveillance, de réentraînement et de redéploiement pour assurer la précision des prévisions.
Cycle de vie du ML
Le cycle de vie du ML est un processus en plusieurs phases qui permet de tirer parti du potentiel de grands volumes de données variées, d'informations de calcul foisonnantes et d'outils Open Source d'apprentissage automatique pour créer des applications intelligentes.
Principaux défis pour les data scientists
La mission première des data scientists consiste à développer des modèles de ML et à s'assurer que le modèle sélectionné fournisse en permanence le plus haut niveau de justesse des prédictions.
Voici leurs principaux défis :
- Sélectionner et déployer les bons outils de ML (Apache Spark, Jupyter Notebook, TensorFlow, PyTorch, etc.)
- Entraîner, tester, sélectionner et entraîner à nouveau le modèle de ML pour maximiser la justesse des prédictions, de façon plus simple et plus rapide
- Exécuter plus rapidement les tâches de modélisation et d'inférence grâce à l'accélération matérielle
- Provisionner et gérer l'infrastructure sans l'intervention de l'équipe informatique
- Collaborer avec les ingénieurs de données et les développeurs de logiciels pour assurer la qualité des données d'entrée et réussir le déploiement des modèles de ML dans les processus de développement d'applications
Créer et gérer des applications intelligentes grâce à OpenShift
Red Hat® OpenShift® est une plateforme d'applications intégrée permettant de gérer le cycle de vie de l'IA/ML dans les environnements de cloud hybride et en périphérie. En fournissant un accès en libre-service aux flux de travail collaboratifs, une puissance de calcul intensive (GPU) et des opérations rationalisées, OpenShift simplifie la fourniture de solutions d'IA de manière cohérente et à grande échelle.
Red Hat OpenShift AI
Red Hat OpenShift AI fournit des outils pour le cycle de vie complet des expériences et modèles d'IA/ML pour les data scientists et les développeurs d'applications intelligentes. Il fournit un sandbox entièrement pris en charge pour développer, entraîner et tester rapidement des modèles d'apprentissage automatique dans le cloud public avant leur déploiement en production.
Avantages de Red Hat OpenShift pour les projets de ML
Davantage de moyens pour les data scientists
- Expérience cloud cohérente et en libre-service pour les data scientists dans le cloud hybride
- Flexibilité et portabilité nécessaires pour utiliser les outils de ML conteneurisés de leur choix afin de créer, mettre à l'échelle, reproduire et partager rapidement des modèles de ML
- Possibilité d'utiliser les outils de ML les plus pertinents grâce à des opérateurs Kubernetes certifiés Red Hat, pour le service cloud d'IA et la solution autogérée
- Indépendance vis-à-vis de l'équipe informatique pour le provisionnement de l'infrastructure nécessaire aux tâches de modélisation de ML itératives et intensives en calcul
- Plus aucun problème de dépendance vis-à-vis d'un fournisseur cloud particulier et de ses outils de ML
- Intégration étroite aux outils CI/CD pour un déploiement rapide et itératif des modèles de ML, selon les besoins
Accélération des tâches de modélisation de ML intensives en calcul
L'utilisation des principaux accélérateurs matériels comme les GPU NVIDIA via l'opérateur GPU certifié Red Hat permet à OpenShift de s'adapter facilement aux besoins élevés en ressources de calcul. Les équipes peuvent ainsi sélectionner le modèle de ML qui offre le plus haut niveau de justesse des prédictions, et les tâches d'inférence à mesure que le modèle reçoit de nouvelles données en production.
Développement d'applications intelligentes
Les capacités DevOps intégrées d'OpenShift permettent au modèle MLOps d'accélérer la distribution d'applications basées sur l'IA et de simplifier le processus itératif d'intégration des modèles d'apprentissage automatique et de redéploiement continu pour assurer la précision des prédictions.
L'extension des capacités d'automatisation des processus DevOps d'OpenShift au cycle de vie du ML favorise une meilleure collaboration entre les data scientists, les développeurs de logiciels et les équipes d'exploitation informatique, ce qui permet d'intégrer rapidement les modèles au développement d'applications intelligentes. Cette approche stimule la productivité et simplifie la gestion du cycle de vie des applications intelligentes basées sur le ML.
- Création à partir du registre d'images de modèles de conteneurs avec OpenShift Build
- Développement continu et itératif d'applications intelligentes basées sur des modèles de ML avec OpenShift Pipelines
- Automatisation du déploiement continu de ces applications intelligentes avec OpenShift GitOps
- Modélisation des images de conteneurs et des microservices avec le référentiel d'images Red Hat Quay
Principaux cas d'utilisation de l'apprentissage automatique sur Red Hat OpenShift
La plateforme OpenShift aide les entreprises de divers secteurs à accélérer leurs initiatives métier et essentielles en développant des applications intelligentes dans le cloud hybride. Elle s'utilise notamment pour la détection des fraudes, les diagnostics de santé basés sur les données, les voitures connectées, l'exploration pétrolière et gazière, les devis d'assurance automatisés et le traitement des sinistres.
Écosystème de partenaires de Red Hat pour l'IA/ML
L'intelligence artificielle et l'apprentissage automatique transforment actuellement de nombreux secteurs, comme ceux de la santé, des services financiers, des télécommunications et de l'automobile. Nous avons mis en place un écosystème robuste de partenaires qui proposent des solutions complètes destinées à la création, au déploiement et à la gestion des modèles d'apprentissage automatique et d'apprentissage profond pour les applications intelligentes basées sur l'IA.
Témoignages clients
Pour proposer des analyses de données d'edge computing aux entreprises et aux organisations régionales, NTT East a récemment lancé son service d'IA vidéo sur Red Hat OpenShift.
Grâce à l'initiative d'edge computing de NTT, les organisations et entreprises qui intègrent les dernières capacités d'IA ont pu augmenter leurs ventes de 144 % et réduire les vols à l'étalage de 30 à 40 %, tout en améliorant le service clientèle.
En collaboration avec les services de consulting Red Hat, Banco Galicia a créé une solution intelligente de traitement du langage naturel optimisée par l'IA sur Red Hat OpenShift. Elle a ainsi réduit les délais de vérification de plusieurs jours à quelques minutes avec une précision de 90 %, ainsi que diminué les temps d'arrêt des applications de 40 %.
IA prête pour l'entreprise
Ensemble, Red Hat OpenShift et la suite logicielle NVIDIA AI Enterprise, exécutée sur des systèmes certifiés NVIDIA, forment une plateforme évolutive qui permet d'accélérer de nombreux cas d'utilisation variés de l'IA. Cette plateforme comprend les principales technologies de NVIDIA et Red Hat qui permettent de gérer et faire évoluer en toute sécurité les charges de travail de l'IA de manière cohérente dans le cloud hybride ainsi que dans les environnements bare metal ou virtualisés.
