Red Hat SummitRed Hat OpenShift AI
La plateforme Red Hat® OpenShift® AI permet de gérer le cycle de vie des modèles d'IA générative et prédictive, à grande échelle, dans les environnements de cloud hybride.
Présentation de Red Hat OpenShift AI
Conçue autour de technologies Open Source, la plateforme Red Hat OpenShift AI offre aux équipes des fonctionnalités fiables et cohérentes pour faire des expériences, déployer des modèles et distribuer des applications innovantes.
En plus de l'accélération du matériel, cette solution permet l'acquisition et la préparation des données ainsi que l'entraînement, la surveillance, l'ajustement et le déploiement des modèles. En association avec les solutions Open Source de nos partenaires fournisseurs de matériel et de logiciels, OpenShift AI offre la flexibilité nécessaire pour traiter les cas d'utilisation spécifiques.
This video can't play due to privacy settings
To change your settings, select the "Cookie Preferences" link in the footer and opt in to "Advertising Cookies."
Accélérez la mise en production de vos applications basées sur l'IA
Réunissez vos équipes autour d'une seule et même plateforme d'applications d'IA pour les entreprises, qui associe les capacités éprouvées de Red Hat OpenShift AI et de Red Hat OpenShift. Les équipes de science des données, d'ingénierie et de développement d'applications peuvent collaborer au sein d'un espace unique qui favorise la cohérence, la sécurité et l'évolutivité.
La dernière version d'OpenShift AI est conçue pour améliorer l'efficacité en donnant accès à des modèles préoptimisés de plus petite taille. De plus, elle réduit les coûts liés aux inférences grâce à l'intégration du framework vLLM pour un déploiement distribué. Et pour simplifier l'exploitation, la solution OpenShift AI inclut des outils avancés qui permettent d'automatiser les déploiements et l'accès en libre-service aux modèles, aux outils et aux ressources.
Fonctions et avantages
Réduction du temps consacré à la gestion de l'infrastructure d'IA
Donnez à vos équipes la possibilité d'accéder aux ressources à la demande, pour qu'elles puissent intervenir elles-mêmes dans l'entraînement des modèles et leur déploiement dans les environnements, en fonction des besoins. Simplifiez par ailleurs vos processus d'exploitation en gérant les accélérateurs d'IA (GPU) et les ressources des charges de travail dans un environnement évolutif en cluster.
Outils d'IA/AA testés et pris en charge
Nos équipes s'occupent du suivi, de l'intégration, des tests et de la prise en charge des outils courants et du déploiement de modèles d'IA/AA sur notre plateforme d'applications Red Hat OpenShift. La solution OpenShift AI s'appuie sur le projet communautaire Open Data Hub ainsi que sur d'autres projets Open Source de Red Hat, notamment Kubeflow.
Flexibilité dans le cloud hybride
Disponible sous forme de logiciel autogéré ou de service cloud entièrement géré et exécuté sur OpenShift, Red Hat OpenShift AI offre une plateforme sûre et flexible qui vous permet de développer et déployer vos modèles dans l'environnement de votre choix : sur site, dans le cloud public ou en périphérie du réseau.
Mise en œuvre de nos meilleures pratiques
Grâce à nos services de consulting, vous pouvez installer, configurer et utiliser la solution Red Hat OpenShift AI pour exploiter tout son potentiel.
Que vous souhaitiez vous lancer dans l'IA, développer les compétences de votre équipe chargée de la plateforme d'AA ou recevoir des conseils pour mettre en œuvre des pratiques MLOps, notre équipe de consulting peut vous accompagner.
Red Hat Enterprise Linux AI
Red Hat® Enterprise Linux® AI est une plateforme de modèle de fondation conçue pour développer, tester et exécuter facilement des grands modèles de langage (LLM) de la famille Granite pour les applications d'entreprise.
Partenariats
Tirez le meilleur parti de la plateforme Red Hat OpenShift AI en l'associant à d'autres produits et services.
NVIDIA et Red Hat offrent aux clients une plateforme évolutive qui accélère divers cas d'utilisation de l'IA avec une flexibilité inégalée.
Intel® et Red Hat aident les entreprises à accélérer l'adoption de l'IA et l'exploitation des modèles d'IA/AA.
IBM et Red Hat proposent des innovations Open Source pour accélérer le développement de l'IA, notamment grâce à IBM watsonx.aiTM, un studio d'IA prêt à l'emploi pour les créateurs d'IA.
Starburst Enterprise et Red Hat contribuent à améliorer la précision et la pertinence des informations grâce à une analyse rapide des données sur plusieurs plateformes de données disparates et distribuées.
Une infrastructure Kubernetes évolutive pour les plateformes d'IA
Découvrez comment appliquer les principes et pratiques MLOps (Machine Learning Operations) pour créer des applications basées sur l'IA.
Collaboration via des ensembles d'outils pour les modèles
Fournissez à vos équipes de science des données des images de cluster précréées ou personnalisées pour travailler sur des modèles dans l'environnement de développement intégré de leur choix, comme JupyterLab. La solution Red Hat OpenShift AI suit les changements apportés à de nombreuses technologies Open Source d'IA, notamment Jupyter, TensorFlow et PyTorch.
Red Hat OpenShift AI pour un déploiement évolutif des modèles
Les modèles peuvent être déployés à l'aide d'une version optimisée du vLLM (ou d'autres serveurs de modèles de votre choix), afin de les intégrer à des applications basées sur l'IA dans le cloud public, sur site ou en périphérie du réseau. Il est possible de les récréer, de les redéployer et de les surveiller en fonction des modifications apportées au notebook source.
Modèle de solution
Applications d'IA avec Red Hat et NVIDIA AI Enterprise
Créer une application RAG
Red Hat OpenShift AI est une plateforme qui sert à réaliser des projets de science des données et à servir des applications basées sur l'IA. Vous pouvez intégrer tous les outils dont vous avez besoin pour prendre en charge la génération augmentée de récupération (RAG), un moyen d'obtenir des réponses d'une IA basées sur vos propres documents de référence. L'association d'OpenShift AI à NVIDIA AI Enterprise vous permet d'utiliser des grands modèles de langage (LLM) afin de trouver le modèle optimal pour votre application.
Concevoir un pipeline pour les documents
Pour tirer parti de la RAG, vous devez, dans un premier temps, ajouter vos documents dans une base de données vectorielle. Dans notre exemple d'application, nous intégrons un ensemble de documents relatifs à des produits dans une base de données Redis. Puisque ces documents changent fréquemment, nous avons créé un pipeline pour ce processus que nous exécuterons régulièrement afin de nous assurer que l'IA dispose toujours des dernières versions des documents.
Parcourir le catalogue de LLM
NVIDIA AI Enterprise vous donne accès à un catalogue varié de LLM. Vous pouvez ainsi tester plusieurs modèles et sélectionner celui qui vous offre les meilleurs résultats. Les modèles sont hébergés dans le catalogue d'API de NVIDIA. Une fois que vous avez configuré un token API, vous pouvez déployer un modèle directement à partir d'OpenShift AI, en utilisant la plateforme de service de modèles NVIDIA NIM.
Choisir le modèle le plus adapté
Lorsque vous testez différents LLM, vos utilisateurs peuvent noter chaque réponse générée. Vous avez la possibilité de configurer un tableau de bord de surveillance Grafana pour comparer les notes ainsi que la latence et le temps de réponse pour chaque modèle. Ensuite, vous pouvez utiliser ces données pour choisir le meilleur LLM à utiliser en production.
Découvrez les ressources associées
Étude de cas
DenizBank donne plus de moyens à ses data scientists avec Red Hat OpenShift AI
Vidéo
Les garde-fous de l'IA pour les LLM protègent les modèles d'IA générative
Rapport d'analyste
Rapport d'Omdia : construire une base opérationnelle solide pour l'IA
Liste de contrôle
5 principales façons d'adopter des pratiques MLOps dans l'entreprise
Essayez Red Hat OpenShift AI
Sandbox de développement
Pour les équipes de développement et de science des données qui souhaitent expérimenter la création d'applications basées sur l'IA dans un environnement préconfiguré et flexible.
Essai de 60 jours
Pour les équipes qui sont prêtes à évaluer toutes les capacités d'OpenShift AI. Un cluster Red Hat OpenShift existant est nécessaire.
