Les modèles Granite, qu'est-ce que c'est ?

La famille Granite regroupe de grands modèles de langage (LLM) qui ont été créés par IBM pour les applications d'entreprise. Les modèles de fondation Granite peuvent prendre en charge les cas d'utilisation de l'intelligence artificielle (IA) générative qui reposent sur un langage spécifique et du code.

La famille Granite se compose de modèles Open Source couverts par la licence Apache 2.0, ce qui permet de les tester, de les modifier et de les distribuer gratuitement. Ces modèles sont particulièrement avantageux pour les entreprises qui souhaitent gérer leurs données sensibles avec leur propre LLM, au lieu de s'appuyer sur un service externe.

En savoir plus sur le fonctionnement des modèles Granite avec Red Hat

Les modèles de fondation sont entraînés pour fonctionner grâce à la connaissance globale de schémas, de structures et de représentations du langage. Cet entraînement apprend au modèle à communiquer et à identifier ces schémas. Ce processus est appelé inférence d'IA. L'inférence d'IA est la phase d'exploitation durant laquelle le modèle est capable d'appliquer ce qu'il a appris au cours de son entraînement à des situations réelles.

Comprendre l'importance de l'inférence d'IA 

Avec les modèles d'IA Granite d'IBM, il est possible d'ajouter un réglage fin à cette base de connaissances afin d'effectuer certaines tâches spécifiques de la plupart des secteurs d'activité. Les données sélectionnées pour entraîner ces modèles peuvent être facilement identifiées.

Lorsqu'un utilisateur leur fournit une instruction générative, les LLM utilisent l'IA générative pour produire de nouveaux contenus : textes, images, vidéos ou lignes de code. Les entreprises peuvent utiliser les modèles de fondation des LLM pour automatiser différents aspects de leurs activités, tels que l'assistance clientèle avec les dialogueurs ou les tests du code logiciel.

Il existe d'autres modèles de fondation de LLM qui utilisent l'IA générative : LLaMa de Meta (notamment LLaMa 2 et LLaMa 3), Gemini de Google, Claude d'Anthropic, GPT d'OpenAI (notamment ChatGPT) et Mistral. Les modèles d'IA Granite sont toutefois uniques en leur genre, puisque les données utilisées pour leur entraînement sont publiées. Cette approche favorise la confiance des utilisateurs et convient davantage aux environnements d'entreprise.

Certains modèles d'IA Granite sont disponibles sous une licence Open Source, ce qui permet d'y accéder facilement et de les développer en local. À l'aide d'un réglage fin, ils peuvent répondre à des objectifs précis. Les utilisateurs ont même accès à la majorité des données utilisées pour entraîner le modèle (PDF), ce qui leur permet de comprendre sa structure et son fonctionnement.

Les modèles Granite sont dits Open Source, car il est possible de les personnaliser avec ses propres données pour générer des résultats qui dépendent de chaque utilisateur. À aucun moment des données personnelles ne sont mises à la disposition de toute la communauté Open Source. Contrairement à l'IA des services web publics, les modèles Granite ne sont pas entraînés en continu. Cette famille de modèles ne partage aucune donnée avec Red Hat, IBM ou d'autres utilisateurs des modèles Granite.

Dans de nombreux secteurs, de la santé à la construction, les entreprises ont plusieurs options pour utiliser les modèles Granite de manière à automatiser leurs activités à grande échelle. Il est possible d'entraîner ces modèles à effectuer des tâches d'un domaine métier, comme la génération de résumés, la réponse aux questions et la classification. Voici quelques exemples de cas d'utilisation.

• Génération de code : les modèles de code Granite peuvent exploiter ou améliorer le travail des équipes de développement afin de renforcer l'efficacité des processus. Par exemple, la saisie semi-automatique permet de finir une ligne de code avant de l'écrire en entier, à la manière des suggestions de mots que proposent les smartphones.
• Extraction d'informations : les modèles Granite peuvent identifier rapidement des schémas et des renseignements précis, ce qui permet de simplifier, résumer ou expliquer de grands ensembles de données. Il n'est donc plus nécessaire de parcourir manuellement de grandes quantités de données. 

• Architecture flexible : les modèles Granite s'intègrent aux systèmes existants et se déploient aussi bien sur site que dans le cloud. Leurs interfaces sont conçues pour simplifier le déploiement. La famille Granite comprend des modèles de différentes tailles adaptés à divers besoins et budgets informatiques.
• Solutions personnalisées : qualifiés de modèles de fondation, les modèles Granite sont capables d'acquérir des connaissances propres à une entreprise. Les utilisateurs peuvent les mettre à l'échelle et procéder à un réglage fin pour les adapter à leurs besoins métier. Par exemple, un fabricant d'appareils médicaux peut entraîner son modèle afin qu'il maîtrise le vocabulaire du secteur de la santé.
• Latence faible : en exécutant un modèle Granite sur leur propre infrastructure, les entreprises peuvent accélérer les délais de réponse. Le modèle peut fournir des données en temps réel, et ainsi faciliter certaines tâches essentielles. Toujours dans le secteur de la santé, l'accès aux données en temps réel améliore la communication à distance entre le médecin et son patient, et aide à apporter les soins appropriés en temps voulu. La compression du modèle Granite permet d'obtenir des performances potentiellement plus élevées avec encore moins de ressources.
• Précision extrême : grâce au réglage fin, les modèles Granite peuvent être spécialisés dans un domaine et accomplir les tâches spécifiques d'un secteur. Il est également possible de les entraîner dans plusieurs langues afin d'assurer la précision et l'accessibilité à l'échelle mondiale.
• Transparence : la licence Open Source qui couvre les modèles Granite offre aux équipes de développement une visibilité sur la méthode de création et d'entraînement du modèle d'IA, et leur permet de collaborer avec une communauté Open Source.

Les modèles Granite prennent en charge les fonctionnalités d'inférence distribuée. 

L'inférence distribuée est une approche qui permet aux modèles d'IA de traiter les charges de travail plus efficacement en répartissant les tâches liées à l'inférence entre plusieurs équipements interconnectés. Ce processus repose sur un système capable de répartir les requêtes entre les serveurs disponibles, dans le cloud ou sur site. 

Chaque serveur d'inférence traite ensuite en parallèle les requêtes qui lui sont attribuées pour créer un résultat final. L'ensemble forme un système résilient et observable, conçu pour fournir des services d'IA cohérents et évolutifs. Les frameworks tels que llm-d prennent en charge l'inférence distribuée à grande échelle afin d'accélérer les applications d'IA générative dans l'entreprise.

Découvrir les autres avantages de l'inférence distribuée 

Pour faire simple, l'IA ne pourrait pas fonctionner sans l'inférence. 

La croissance incessante des modèles affecte cependant les performances de l'inférence. Plus les modèles se complexifient, plus le processus d'inférence ralentit.

L'inférence exige des modèles d'IA qu'ils effectuent une grande quantité de calculs en un court laps de temps. Par conséquent, des facteurs tels que la taille du modèle, le nombre d'utilisateurs et la latence peuvent limiter les performances. Face à des modèles qui nécessitent davantage de données et de mémoire, le matériel et les accélérateurs peinent à suivre le rythme.

C'est pourquoi la réussite des stratégies d'IA dépend du matériel et des logiciels sur lesquels reposent les fonctionnalités d'inférence. Les modèles Granite sont d'ailleurs adaptés à l'inférence de haut niveau.

Comprendre l'importance de l'inférence d'IA 

IBM a lancé plusieurs séries de modèles Granite pour répondre aux besoins de plus en plus complexes des applications d'entreprise. Les catégories et les conventions de dénomination des séries varient au sein de la famille Granite.

Chaque série a un objectif distinct.

• Granite pour les langues : ces modèles offrent un traitement du langage naturel précis dans plusieurs langues, et ce, avec une faible latence. 

  Découvrir des cas d'utilisation de l'IA générative

• Granite pour le code : entraînés avec plus de 100 langages de programmation différents, ces modèles prennent en charge les tâches logicielles d'entreprise.
• Granite pour les séries chronologiques : le réglage fin de ces modèles est axé sur la prévision des séries chronologiques, qui consiste à prévoir les futures données sur la base des anciennes.

• Granite pour la recherche géospatiale : IBM et la NASA ont créé ce modèle de fondation pour observer la Terre en recueillant des données satellites à grande échelle, qui permettent de suivre les changements environnementaux et d'y faire face.

  Découvrir des cas d'utilisation de l'IA prédictive

Chacune de ces séries se compose de modèles de différentes tailles aux spécialités variées. Par exemple, les modèles Granite pour les langues incluent :

• Granite-7b-base, un modèle de langage général destiné à la conversation et à la messagerie instantanée ;
• Granite-7b-instruct, un modèle spécialisé dans l'application des instructions de tâche.

Lire la page Hugging Face sur les modèles Granite

La gamme Red Hat® AI offre des fonctionnalités d'inférence rapides, flexibles et efficaces au moyen d'un serveur basé sur vLLM. Elle relie de manière fiable les modèles aux données pour unifier la personnalisation et le développement d'agents spécialisés sur une seule et même plateforme. Conçus sur une base Open Source, nos produits donnent un contrôle total sur les workflows d'IA, de bout en bout et à toutes les échelles. 

La gamme Red Hat AI comprend Red Hat AI Inference, une pile d'inférence qui offre le niveau de maîtrise de l'exploitation nécessaire pour exécuter tous les modèles sur tous les accélérateurs, dans l'ensemble du cloud hybride. Elle permet d'adopter une stratégie d'inférence rapide, rentable et efficace à grande échelle. 

Découvrir Red Hat AI