Accélérez le développement de logiciels d'entreprise avec NVIDIA et le MaaS sur Red Hat AI

Le développement de logiciels de manière aussi efficace et rapide que possible constitue un impératif concurrentiel. Plus vous commercialisez rapidement vos nouveaux produits, plus vous bénéficiez d'un avantage auprès de vos clients. Ces dernières années, le codage par l'IA s'est imposé comme une approche de choix pour relever ces défis. Cette méthode permet de prendre en charge les tâches répétitives et fastidieuses, tout en accélérant le débogage et les tests. Cette approche libère un temps précieux pour des tâches de développement à plus fort impact.

Cependant, l'adoption rapide du codage basé sur l'IA générative génère de nouveaux défis à l'échelle de l'entreprise. À mesure qu'elles étendent leur utilisation des outils d'IA, les entreprises font face à des questions cruciales : Comment garantir la rentabilité à long terme ? Comment protéger la propriété intellectuelle et les données sensibles au sein et autour de la base de code ? Et comment respecter nos obligations en matière de conformité réglementaire et de gestion des données ? 

La plupart des entreprises commencent leur parcours d'adoption de l'IA par des services de modèles hébergés, ce qui constitue souvent un point de départ pertinent. Toutefois, à mesure que l'utilisation augmente, la dépendance vis-à-vis de points de terminaison tiers hébergés, dont la facturation repose sur le volume de jetons, peut engendrer des coûts d'exploitation élevés et imprévisibles. De plus, le contrôle exercé sur l'infrastructure, la sécurité et la gouvernance de l'ensemble de la pile reste minime. Ce manque de contrôle pose des difficultés aux entreprises, les contraignant souvent à faire des exceptions à des règles établies de longue date et pleinement justifiées. NVIDIA et Red Hat s'associent Page affichée en Anglais (Français non disponible)pour vous aider à relever ces défis grâce à des plateformes telles que Red Hat AI Factory with NVIDIA. Celles-ci vous permettent d'exécuter des opérations d'inférence et de réglage hautes performances sur votre propre infrastructure de cloud hybride. Vous gardez ainsi le contrôle de la sécurité, des politiques d'accès et de l'utilisation des GPU à l'échelle de l'entreprise. 

Models-as-a-Service : L'IA d'entreprise selon vos conditions

Les Models-as-a-Service (MaaS) sur Red Hat AI permettent précisément de répondre à ces défis.

Fonctionnalité entièrement intégrée à Red Hat AI, MaaS transforme en profondeur la manière dont les entreprises gèrent l'IA. Ce service permet aux équipes informatiques centralisées d'héberger et de gérer leurs propres modèles sur leur propre infrastructure multi-client, entièrement selon les conditions de l'entreprise. Ces modèles sont ensuite mis à la disposition des équipes pour répondre à divers cas d'usage internes, au moyen d'un accès contrôlé par jeton d'API.

Le fait de disposer de votre propre service de modèles hébergés privés vous apporte un niveau de gouvernance et de contrôle très élevé. Les administrateurs peuvent configurer des niveaux d'accès utilisateur et définir des contraintes d'utilisation spécifiques pour chaque équipe ou projet. Cette configuration garantit que chaque utilisateur interne dispose des ressources nécessaires, tout en évitant le gaspillage lié à des ressources coûteuses laissées inactives. Cette approche simplifie l'accès aux modèles, encadre la consommation et permet aux équipes informatiques centrales de suivre les indicateurs. Elles peuvent ainsi planifier les besoins en capacité et en calcul, et gérer la facturation interne avec un niveau élevé de contrôle et de prévisibilité.

Déployez dès aujourd'hui votre propre assistant de codage par l'IA privé grâce à notre nouveau AI quickstart

Afin de répondre au besoin d'une méthode pratique, sécurisée et économiquement maîtrisée pour adopter le codage par l'IA, nous avons ajouté un nouveau AI quickstart intitulé « Accélérez le développement de logiciels d'entreprise avec NVIDIA et MaaS » à notre catalogue de AI quickstart. Cet AI quickstart propose un déploiement prêt à l'emploi conçu pour vous permettre de démarrer rapidement avec Red Hat AI grâce à une solution simple et directement opérationnelle.

Cet AI quickstart offre une méthode simple et reproductible pour déployer votre propre assistant de codage par l'IA privé. Il exploite la puissance des modèles ouverts NVIDIA Nemotron et du calcul accéléré de NVIDIA au sein de Red Hat AI.

Que contient le guide de démarrage rapide pour l'IA ?

Le guide de démarrage rapide pour l'IA fournit tous les composants nécessaires à un assistant de codage IA sécurisé et performant :

La plateforme : Red Hat AI, reposant sur le socle de Red Hat OpenShift, fournit la couche d'orchestration pour l'ensemble de vos modèles et charges de travail d'IA.

Inférence : vLLM et llm-d avec KServe offrent les performances d'inférence distribuée requises pour l'exécution de modèles à grande échelle, ce qui permet d'assurer des performances élevées et une utilisation optimale des ressources.

Grand modèle de langage (LLM) : Le guide de démarrage rapide pour l'IA s'appuie sur des LLM de premier plan, notamment le modèle NVIDIA Nemotron 3 Nano 30B A3B. Ce modèle quantifié avec une précision FP8 est conçu pour assurer un raisonnement efficace, les assistants conversationnels et les applications d'IA agentiques.

Models-as-a-Service : Cette solution, entièrement intégrée au tableau de bord Red Hat AI, fournit une passerelle d'API pour le suivi de l'utilisation et la gouvernance, ainsi que les données nécessaires à une refacturation simple entre les équipes.

Red Hat OpenShift Dev Spaces : OpenShift Dev Spaces fournit à vos équipes des instances d'IDE cloud-native pour développer et déployer, le tout au sein du même cluster.

Remarque : OpenShift Dev Spaces est inclus dans les abonnements OpenShift.

Observabilité : Grâce à l'opérateur Prometheus dans OpenShift, vous obtenez les métriques d'inférence et la télémétrie GPU nécessaires pour comprendre l'utilisation et les performances des modèles au sein de vos équipes.

Accélération GPU : Cet AI quickstart s'exécute sur l'infrastructure d'IA NVIDIA activée par le NVIDIA GPU Operator, pris en charge par NVIDIA dans le cadre de l'abonnement NVIDIA AI Enterprise . Cet opérateur active les GPU et gère les pilotes requis, NVIDIA Data Center GPU Manager (DCGM), la boîte à outils pour conteneurs ainsi que les fonctionnalités MIG pour le partitionnement des accélérateurs pris en charge. 

Principaux avantages

L’AI quickstart pour l'assistant de codage offre trois avantages métier principaux :

1. Contrôle prévisible des coûts et du budget

En exécutant votre propre infrastructure, vous gardez le contrôle grâce à des fonctionnalités intégrées qui permettent de limiter le taux d'utilisation, de définir des quotas et de suivre la consommation en détail. Cette approche simplifie le suivi budgétaire et facilite la prévision des coûts de mise à l'échelle.

2. Sécurité et conformité intégrées

Pour les entreprises soumises à des exigences de gouvernance strictes, la sécurité constitue un aspect non négociable. L’AI quickstart propose un exemple de déploiement sur site ou dans un cloud privé qui permet de conserver votre code au sein de votre organisation. Puisque vous hébergez le modèle en interne sur l'infrastructure que vous gérez, vous évitez les appels d'API externes ainsi que les risques de fuite de données.

3. Expérience de premier ordre pour les équipes de développement

Nous fournissons le socle d'un environnement performant dont vos équipes de développement ont besoin pour travailler plus rapidement et plus efficacement. L'inférence à haute vitesse de la plateforme, optimisée par les GPU NVIDIA ainsi que nos piles d'inférence vLLM et llm-d, garantit des calculs d'inférence rapides à l'échelle de l'entreprise. Ces performances s'intègrent ensuite à un environnement OpenShift Dev Spaces, ce qui permet à vos équipes de développement de collaborer au sein d'un même cluster et d'améliorer leur productivité. 

Lancez-vous dès maintenant

Êtes-vous prêt à exploiter le service MaaS (Models-as-a-Service) et les modèles NVIDIA pour vos développements d'IA ? 

• Découvrez l’AI quickstart Accélérer le développement de logiciels d'entreprise avec NVIDIA et le MaaS :
  • Cet AI quickstart renvoie à notre dépôt GitHub contenant le code de déploiement complet.
• Passez en revue les exigences matérielles et logicielles
• Pour toute question ou demande de conseils concernant l'utilisation de l’AI quickstart, ouvrez un ticket GitHub ou contactez votre équipe Red Hat.

Ressources complémentaires

• Consultez le catalogue des AI quickstarts
• Pour en savoir plus sur NVIDIA Nemotron
• Explorez les avantages de Red Hat AI Factory avec NVIDIA