Red Hat OpenShift AI

La plateforme Red Hat® OpenShift® AI permet de gérer le cycle de vie des modèles d'IA générative et prédictive, à grande échelle, dans les environnements de cloud hybride. 

Red Hat OpenShift AI

Présentation de Red Hat OpenShift AI

Conçue autour de technologies Open Source, la plateforme Red Hat OpenShift AI offre aux équipes des fonctionnalités fiables et cohérentes pour faire des expériences, déployer des modèles et distribuer des applications innovantes.

En plus de l'accélération du matériel, cette solution permet l'acquisition et la préparation des données ainsi que l'entraînement, la surveillance, l'ajustement et le déploiement des modèles. En association avec les solutions Open Source de nos partenaires fournisseurs de matériel et de logiciels, OpenShift AI offre la flexibilité nécessaire pour traiter les cas d'utilisation spécifiques.

Illustration de Red Hat AI

Accélérez la mise en production de vos applications basées sur l'IA

Réunissez vos équipes autour d'une seule et même plateforme d'applications d'IA pour les entreprises, qui associe les capacités éprouvées de Red Hat OpenShift AI et de Red Hat OpenShift. Les équipes de science des données, d'ingénierie et de développement d'applications peuvent collaborer au sein d'un espace unique qui favorise la cohérence, la sécurité et l'évolutivité.

La dernière version d'OpenShift AI est conçue pour améliorer l'efficacité en donnant accès à des modèles préoptimisés de plus petite taille. De plus, elle réduit les coûts liés aux inférences grâce à l'intégration du framework vLLM pour un déploiement distribué. Et pour simplifier l'exploitation, la solution OpenShift AI inclut des outils avancés qui permettent d'automatiser les déploiements et l'accès en libre-service aux modèles, aux outils et aux ressources. 

Réduction du temps consacré à la gestion de l'infrastructure d'IA

Donnez à vos équipes la possibilité d'accéder aux ressources à la demande, pour qu'elles puissent intervenir elles-mêmes dans l'entraînement des modèles et leur déploiement dans les environnements, en fonction des besoins. Simplifiez par ailleurs vos processus d'exploitation en gérant les accélérateurs d'IA (GPU) et les ressources des charges de travail dans un environnement évolutif en cluster.

Outils d'IA/AA testés et pris en charge

Nos équipes s'occupent du suivi, de l'intégration, des tests et de la prise en charge des outils courants et du déploiement de modèles d'IA/AA sur notre plateforme d'applications Red Hat OpenShift. La solution OpenShift AI s'appuie sur le projet communautaire Open Data Hub ainsi que sur d'autres projets Open Source de Red Hat, notamment Kubeflow.

Flexibilité dans le cloud hybride

Disponible sous forme de logiciel autogéré ou de service cloud entièrement géré et exécuté sur OpenShift, Red Hat OpenShift AI offre une plateforme sûre et flexible qui vous permet de développer et déployer vos modèles dans l'environnement de votre choix : sur site, dans le cloud public ou en périphérie du réseau.

Mise en œuvre de nos meilleures pratiques

Grâce à nos services de consulting, vous pouvez installer, configurer et utiliser la solution Red Hat OpenShift AI pour exploiter tout son potentiel.

Que vous souhaitiez vous lancer dans l'IA, développer les compétences de votre équipe chargée de la plateforme d'AA ou recevoir des conseils pour mettre en œuvre des pratiques MLOps, notre équipe de consulting peut vous accompagner.

Maintenant disponible

Red Hat Enterprise Linux AI

Red Hat® Enterprise Linux® AI est une plateforme de modèle de fondation conçue pour développer, tester et exécuter facilement des grands modèles de langage (LLM) de la famille Granite pour les applications d'entreprise.

Partenariats

Tirez le meilleur parti de la plateforme Red Hat OpenShift AI en l'associant à d'autres produits et services.

Logo NVIDIA

NVIDIA et Red Hat offrent aux clients une plateforme évolutive qui accélère divers cas d'utilisation de l'IA avec une flexibilité inégalée.

Logo Intel

Intel® et Red Hat aident les entreprises à accélérer l'adoption de l'IA et l'exploitation des modèles d'IA/AA.

Logo IBM

IBM et Red Hat proposent des innovations Open Source pour accélérer le développement de l'IA, notamment grâce à IBM watsonx.aiTM, un studio d'IA prêt à l'emploi pour les créateurs d'IA. 

logo Starburst

Starburst Enterprise et Red Hat contribuent à améliorer la précision et la pertinence des informations grâce à une analyse rapide des données sur plusieurs plateformes de données disparates et distribuées.

Une infrastructure Kubernetes évolutive pour les plateformes d'IA

Découvrez comment appliquer les principes et pratiques MLOps (Machine Learning Operations) pour créer des applications basées sur l'IA. 

Collaboration via des ensembles d'outils pour les modèles

Fournissez à vos équipes de science des données des images de cluster précréées ou personnalisées pour travailler sur des modèles dans l'environnement de développement intégré de leur choix, comme JupyterLab. La solution Red Hat OpenShift AI suit les changements apportés à de nombreuses technologies Open Source d'IA, notamment Jupyter, TensorFlow et PyTorch.

Capture d'écran de l'onglet des applications activées dans la console OpenShift AI
Capture d'écran du tableau montrant le déploiement des modèles dans la console OpenShift AI

Red Hat OpenShift AI pour un déploiement évolutif des modèles

Les modèles peuvent être déployés à l'aide d'une version optimisée du vLLM (ou d'autres serveurs de modèles de votre choix), afin de les intégrer à des applications basées sur l'IA dans le cloud public, sur site ou en périphérie du réseau. Il est possible de les récréer, de les redéployer et de les surveiller en fonction des modifications apportées au notebook source.

Modèle de solution

Applications d'IA avec Red Hat et NVIDIA AI Enterprise

Créer une application RAG

Red Hat OpenShift AI est une plateforme qui sert à réaliser des projets de science des données et à servir des applications basées sur l'IA. Vous pouvez intégrer tous les outils dont vous avez besoin pour prendre en charge la génération augmentée de récupération (RAG), un moyen d'obtenir des réponses d'une IA basées sur vos propres documents de référence. L'association d'OpenShift AI à NVIDIA AI Enterprise vous permet d'utiliser des grands modèles de langage (LLM) afin de trouver le modèle optimal pour votre application.

Concevoir un pipeline pour les documents

Pour tirer parti de la RAG, vous devez, dans un premier temps, ajouter vos documents dans une base de données vectorielle. Dans notre exemple d'application, nous intégrons un ensemble de documents relatifs à des produits dans une base de données Redis. Puisque ces documents changent fréquemment, nous avons créé un pipeline pour ce processus que nous exécuterons régulièrement afin de nous assurer que l'IA dispose toujours des dernières versions des documents.

Parcourir le catalogue de LLM

NVIDIA AI Enterprise vous donne accès à un catalogue varié de LLM. Vous pouvez ainsi tester plusieurs modèles et sélectionner celui qui vous offre les meilleurs résultats. Les modèles sont hébergés dans le catalogue d'API de NVIDIA. Une fois que vous avez configuré un token API, vous pouvez déployer un modèle directement à partir d'OpenShift AI, en utilisant la plateforme de service de modèles NVIDIA NIM.

Choisir le modèle le plus adapté

Lorsque vous testez différents LLM, vos utilisateurs peuvent noter chaque réponse générée. Vous avez la possibilité de configurer un tableau de bord de surveillance Grafana pour comparer les notes ainsi que la latence et le temps de réponse pour chaque modèle. Ensuite, vous pouvez utiliser ces données pour choisir le meilleur LLM à utiliser en production.

Icône de téléchargement de fichier PDF

Un diagramme d'architecture montre une application conçue à l'aide de Red Hat OpenShift AI et de NVIDIA AI Enterprise. Parmi les composants figurent OpenShift GitOps pour la connexion à GitHub et la gestion des interactions DevOps, Grafana pour la surveillance, OpenShift AI pour la science des données, Redis comme base de données vectorielle et Quay comme registre d'images. Ceux-ci sont tous reliés aux côtés front-end et back-end de l'application. Ils sont créés sur Red Hat OpenShift AI, avec une intégration à ai.nvidia.com.

Découvrez les ressources associées

Étude de cas

DenizBank donne plus de moyens à ses data scientists avec Red Hat OpenShift AI

Vidéo

Les garde-fous de l'IA pour les LLM protègent les modèles d'IA générative

Rapport d'analyste

Rapport d'Omdia : construire une base opérationnelle solide pour l'IA

Liste de contrôle

5 principales façons d'adopter des pratiques MLOps dans l'entreprise

Essayez Red Hat OpenShift AI

Sandbox de développement

Pour les équipes de développement et de science des données qui souhaitent expérimenter la création d'applications basées sur l'IA dans un environnement préconfiguré et flexible.

Essai de 60 jours

Pour les équipes qui sont prêtes à évaluer toutes les capacités d'OpenShift AI. Un cluster Red Hat OpenShift existant est nécessaire.

Contactez notre équipe commerciale

Parlez à un représentant Red Hat