Red Hat Consulting : AI Platform Foundation

Dans tous les secteurs, les grandes entreprises adoptent l'IA générative pour réinventer leurs processus et offrir de nouvelles expériences client. Chez Red Hat, nous proposons l'une des principales plateformes de cloud hybride ouvert pour aider les entreprises à développer, déployer et gérer des applications d'IA à la pointe du progrès, du datacenter au cloud.

Pour passer de la phase pilote à la mise en production des applications d'IA, il faut toutefois relever des défis uniques. Il s'agit notamment de maîtriser les coûts élevés des processeurs graphiques (GPU), de respecter les exigences complexes liées à la distribution des modèles, ou encore de gérer l'incohérence des environnements de développement, qui entrave la reproductibilité du réglage fin et du déploiement des grands modèles de langage (LLM).

Pour relever ces défis, nous avons développé l'offre Red Hat® AI, qui inclut Red Hat AI Inference Server, Red Hat OpenShift® AI et Red Hat Enterprise Linux® AI. Elle fournit une plateforme complète et flexible d'outils Open Source pour l'ensemble du cycle de vie du LLMOps, de la préparation des données au réglage fin des modèles, en passant par l'inférence et la surveillance évolutive. Pour soutenir les entreprises, nous proposons l'offre Red Hat Consulting : AI Platform Foundation qui vise à faciliter l'adoption des stratégies LLMOps ainsi que de la plateforme d'IA nécessaire pour mettre en œuvre rapidement des applications d'IA générative et obtenir des résultats métier concrets.

L'équipe de consulting Red Hat a créé l'offre AI Platform Foundation afin d'aider les clients à déployer et tirer parti de Red Hat AI tout en renforçant leur maîtrise de l'IA. La mise en place d'une plateforme centralisée permet d'accéder à des bibliothèques et outils standardisés, ainsi que d'augmenter la disponibilité des ressources de calcul, de favoriser la collaboration et de faciliter l'intégration des équipes de science des données, d'ingénierie de l'IA et des autres utilisateurs.

Dans le cadre de cette offre, nos spécialistes s'associent aux équipes internes de l'entreprise pour évaluer l'environnement actuel et identifier les besoins futurs. Une approche GitOps est ensuite adoptée pour déployer et gérer Red Hat AI, ainsi que pour l'associer aux outils des environnements clients afin de mettre en œuvre une plateforme complète et robuste.

Sessions sur l'architecture

Nos consultants animent des ateliers pratiques axés sur le déploiement dans plusieurs clusters (développement, test et production) qui peuvent aussi concerner les utilisateurs finaux tels que les équipes de science des données, d'ingénierie de l'IA et de développement d'applications.

Dans un premier temps, les sessions sont axées sur l'architecture, afin d'identifier les potentiels points d'intégration critiques dans les systèmes existants ainsi que les outils supplémentaires requis pour répondre aux besoins uniques de chaque client. L'équipe de consulting Red Hat assiste les clients dans le choix des outils et des modèles à ajouter à leur plateforme d'IA. Elle examine également leur architecture pour mieux comprendre leur environnement et déterminer la meilleure méthode pour adopter et utiliser Red Hat AI. 

Collaboration avec les équipes

Suite à ces sessions sur l'architecture, nos consultants collaborent avec les équipes pendant le déploiement et la configuration des outils tiers sélectionnés. Cette phase peut inclure les actions suivantes : 

• Dimensionnement des configurations, intégration aux systèmes de données et configuration des accélérateurs matériels comme les GPU selon les besoins
• Assistance pour le déploiement, la configuration et l'intégration des outils tiers
• Intégration des fonctions de la plateforme existante (serverless, GitOps pipelines, etc.) pour répondre à ses exigences

Personnalisation de l'offre

Nous avons conscience que chaque client a des objectifs métier propres. Aussi, les conditions de l'offre sont personnalisées en fonction des résultats des sessions sur l'architecture et des objectifs suivants : 

• Développement de pipelines personnalisés pour l'entraînement et le déploiement des modèles ainsi que l'intégration des données
• Création de pipelines pour fournir des notebooks personnalisés
• Adoption de l'approche MaaS (Models-as-a-Service)
• Création de pipelines pour tester et évaluer la précision d'un modèle

Avec cette offre, nous cherchons avant tout à favoriser la collaboration entre les équipes d'administration de clusters, de gestion de l'infrastructure et de science des données. Nos consultants travaillent directement avec l'entreprise afin de l'aider à maintenir l'état actuel de l'architecture tout en posant des bases solides pour répondre aux exigences futures.

Après la définition des conditions de l'offre AI Platform Foundation, nos consultants collaborent avec les équipes de science des données et d'ingénierie de l'IA pour faciliter leur intégration et améliorer leur expérience utilisateur à l'aide de paramètres personnalisés.

À savoir

Nous nous adaptons à votre situation et à votre utilisation actuelle de l'IA générative. Les clients qui souhaitent aller au-delà de l'expérimentation de modèles et développer des stratégies pour déployer des modèles en production peuvent ensuite opter pour l'offre Red Hat Consulting : Operationalizing AI.

Les services Red Hat englobent le consulting, les formations et certifications, ainsi que la gestion de compte technique Red Hat. Ils fournissent aux clients une assistance et des conseils complets pour créer des applications cloud modernes. 

Consulting : grâce à un programme d'accompagnement basé sur la pratique, nos consultants développent les compétences et favorisent l'autonomie du personnel, tout en rationalisant les processus, en alignant les équipes et en veillant à ce que les systèmes et les applications fonctionnent ensemble.

Formations : elles permettent aux équipes d'acquérir les compétences qui leur manquent et d'améliorer leur maîtrise de nos produits en développant des connaissances pratiques basées sur les rôles dans le domaine des technologies Open Source émergentes et fondamentales. Découvrez notre programme complet autour de Red Hat AI. 

Gestion de compte technique Red Hat : des responsables collaborent avec les entreprises dans le but de résoudre les problèmes éventuels avant qu'ils surviennent pour limiter les perturbations et leur permettre de se concentrer sur leurs principaux défis métier.

Nous nous efforçons d'aider nos clients à fournir non seulement leur premier modèle d'IA/AA, mais aussi la base de tous leurs systèmes d'IA/AA. En créant un schéma réutilisable pour entraîner et déployer un modèle d'IA/AA sous forme de solution prête à la production, nous cherchons à aider nos clients à mener à bien leurs futurs projets d'IA/AA. 

En s'appuyant sur une approche GitOps, l'équipe de consulting Red Hat aide à provisionner des projets de science des données, ainsi qu'à accélérer la création, l'entraînement, les tests, le déploiement et la surveillance des modèles d'IA/AA. Elle favorise aussi la cohérence de l'utilisation des modèles en production dans l'ensemble des environnements de cloud hybride et d'edge computing (des clusters basés dans le cloud aux environnements sur site totalement déconnectés).

Les services d'IA que nous proposons vous intéressent ? Contactez votre responsable de compte ou l'un de nos consultants.