AI510

Mise à disposition de modèles à grande échelle avec Red Hat AI Enterprise

Intérêt

Description du cours 

Pour déployer des modèles d'IA dans des environnements d'entreprise, un prototype fonctionnel ne suffit pas.

Les entreprises doivent évaluer les environnements d'exécution réservés à la mise à disposition, optimiser les modèles pour le matériel de production, gérer l'inférence à grande échelle et surveiller les modèles déployés afin de garantir un bon niveau de performances et de fiabilité.

Ce cours permet aux participants d'apprendre à déployer, mettre à disposition et gérer des modèles d'IA à l'échelle de l'entreprise avec Red Hat OpenShift AI. Il leur permettra aussi de maîtriser le framework AI Factory, la mise à disposition de modèles avec vLLM et KServe, les microservices NVIDIA NIM, l'inférence distribuée avec llm-d, l'ordonnancement des charges de travail avec Kueue et la surveillance des modèles en production.

Ce cours repose sur la version 3.4 de Red Hat OpenShift AI.

Bénéfices pour l'entreprise

Les entreprises peuvent rencontrer des difficultés pour faire passer les modèles d'IA de la phase d'expérimentation à la production à grande échelle, entraînant un allongement du délai de rentabilisation et une sous-utilisation des investissements réalisés pour l'infrastructure. Grâce à ce cours, les équipes sauront déployer, optimiser et exploiter efficacement les modèles d'IA sur les solutions Red Hat AI, en réduisant l'écart entre le prototype et la production ainsi qu'en garantissant la fiabilité et la rentabilité de la mise à disposition des modèles dans toute l'entreprise.

 Bénéfices pour le participant

À l'issue de ce cours, les participants seront en mesure d'évaluer les environnements d'exécution réservés à la mise à disposition, ainsi que d'optimiser et de déployer des modèles d'IA générative et prédictive à grande échelle avec vLLM, KServe et NVIDIA NIM sur Red Hat OpenShift AI. Ils pourront également configurer des opérations d'inférence distribuée et l'ordonnancement des charges de travail, ainsi que surveiller les modèles déployés en production.

 Préparation

Public cible

Ingénieurs de plateforme d'IA, équipes MLOps et administrateurs d'infrastructure responsables du déploiement, de la mise à disposition et de la gestion de modèles d'IA à grande échelle sur Red Hat OpenShift AI 

Préparation recommandée

  • Connaître les concepts de Red Hat OpenShift ou avoir suivi le cours Développement avec Red Hat OpenShift II : création et déploiement d'applications cloud-native (DO288)
  • Connaître les bases des grands modèles de langage, des concepts d'IA/AA et de la mise à disposition des modèles
  • Avoir suivi le cours Développement et déploiement d'applications d'IA/AA sur Red Hat OpenShift AI (AI267), en particulier pour les participants qui découvrent la plateforme Red Hat OpenShift AI 

 

Nous vous recommandons de passer notre évaluation gratuite des compétences avant toute inscription à un cours de formation ou une certification Red Hat. En savoir plus

 Prochaine étape

Trouvez le parcours qui vous convient. Découvrez les recommandations de cours et de certifications qui correspondent à votre niveau d'expérience et à vos objectifs professionnels. Voir les parcours de compétences

Choisir un pays ou région

Découvrir

Découvrez de multiples façons de développer vos compétences

Suivez des cours dans le cadre de formations virtuelles dispensées par des instructeurs et en autonomie. Bénéficiez aussi de l'aide de nos spécialistes et passez les examens de certification. Tout est inclus dans la souscription Red Hat Learning.

Formations sur site disponibles

Si vous souhaitez former toute votre équipe, nous proposons des formations sur site, en présentiel ou à distance.

Souscription Red Hat Learning

Bénéficiez de parcours de formation complets sur les produits Red Hat, de certifications reconnues par le secteur et d'une expérience d'apprentissage informatique flexible et dynamique.