L'IA générative avec Red Hat AI

Red Hat AI améliore l'efficacité du déploiement et de l'exploitation de l'IA, en fournissant un accès aux modèles Granite Open Source adaptés aux entreprises. Vous pouvez ajuster ces petits modèles de langage en fonction de vos besoins. Ils sont moins coûteux, plus efficaces et optimisés pour l'inférence. Ces modèles sont également couverts par notre programme d'assurance Open Source. 

Appliquez des algorithmes LLM Compressor pour réduire davantage les coûts matériels, et exécutez-les sur les accélérateurs matériels de votre choix. 

Vous pouvez aussi utiliser des technologies comme vLLM pour optimiser la puissance des processeurs graphiques (GPU). Cette approche permet de réduire les coûts matériels et d'accélérer la génération des jetons textuels pour fournir des réponses plus rapidement dans les applications en temps réel.

Conçue pour être facilement accessible, la gamme Red Hat AI offre une expérience utilisateur cohérente aux équipes DevOps, de science des données, d'ingénierie des données et de développement d'applications. Elle contribue à améliorer la collaboration, à réduire les erreurs et à accélérer la mise sur le marché. 

Red Hat AI donne accès aux outils d'alignement InstructLab. Tout le personnel a ainsi la possibilité de contribuer à un grand modèle de langage (LLM). 

Vous pouvez aussi utiliser la génération augmentée de récupération pour personnaliser vos LLM. Red Hat AI propose des fonctionnalités telles que l'ingestion de données, les incorporations et l'évaluation de modèles, pour vous permettre de produire des réponses qui correspondent à vos besoins métier spécifiques.

Red Hat AI offre aux utilisateurs la possibilité de choisir l'environnement dans lequel entraîner, régler, déployer et exécuter des modèles et des applications d'IA générative, que ce soit sur site, dans le cloud public ou à la périphérie du réseau. Les utilisateurs peuvent ainsi contrôler les accès, automatiser la surveillance de la conformité et renforcer la sécurité des données. 

La technologie vLLM permet le déploiement flexible des applications d'IA générative en répartissant les tâches de traitement entre plusieurs GPU. Cette opération repose sur la distribution des services entre les nœuds qui reçoivent, traitent et transmettent les données pour une utilisation plus efficace des ressources de calcul. 

Red Hat AI prend aussi en charge les environnements déconnectés et air gap, ce qui vous permet de protéger vos données les plus sensibles.

Notre équipe d'ingénierie est là pour vous aider à utiliser notre plateforme d'IA. Du système d'exploitation aux outils individuels, nous pouvons vous accompagner pour faire avancer votre stratégie d'IA.