Présentation
La famille Granite regroupe des grands modèles de langage (LLM) qui ont été créés par IBM pour les applications d'entreprise. Les modèles de fondation Granite peuvent prendre en charge les cas d'utilisation de l'intelligence artificielle (IA) générative qui reposent sur un langage spécifique et du code.
La famille Granite se compose de modèles Open Source couverts par la licence Apache 2.0, ce qui permet de les tester, de les modifier et de les distribuer gratuitement. Ces modèles sont particulièrement avantageux pour les entreprises qui souhaitent gérer leurs données sensibles avec leur propre LLM, au lieu de s'appuyer sur un service externe.
Fonctionnement des modèles d'IA Granite
Les
modèles de fondation sont entraînés pour fonctionner grâce à la connaissance globale de schémas, de structures et de représentations du langage. Cet entraînement apprend au modèle à communiquer et à identifier ces schémas.
Avec les modèles d'IA Granite d'IBM, il est possible d'ajouter un réglage fin à cette base de connaissances afin d'effectuer certaines tâches spécifiques de la plupart des secteurs d'activité. Les données sélectionnées pour entraîner ces modèles peuvent être facilement identifiées.
Lorsqu'un utilisateur leur fournit une instruction générative, les LLM utilisent l'IA générative pour produire de nouveaux contenus : textes, images, vidéos ou lignes de code. Les entreprises peuvent utiliser les modèles de fondation des LLM pour automatiser différents aspects de leurs activités, tels que l'assistance clientèle avec les dialogueurs ou les tests du code logiciel.
Il existe d'autres modèles de fondation de LLM qui utilisent l'IA générative : LLaMa de Meta (notamment LLaMa 2 et LLaMa 3), Gemini de Google, Claude d'Anthropic, GPT d'OpenAI (notamment ChatGPT) et Mistral. Les modèles d'IA Granite sont toutefois uniques en leur genre, puisque les données utilisées pour leur entraînement sont publiées. Cette approche favorise la confiance des utilisateurs et convient davantage aux environnements d'entreprise.
Ressources Red Hat
Modèles Open Source
Certains modèles d'IA Granite sont disponibles sous une licence Open Source, ce qui permet d'y accéder facilement et de les développer en local. À l'aide d'un réglage fin, ils peuvent répondre à des objectifs précis. Les utilisateurs ont même accès à la majorité des données utilisées pour entraîner le modèle (PDF), ce qui leur permet de comprendre sa structure et son fonctionnement.
Les modèles Granite sont dits Open Source, car il est possible de les personnaliser avec ses propres données pour générer des résultats qui dépendent de chaque utilisateur. À aucun moment des données personnelles ne sont mises à la disposition de toute la communauté Open Source. Contrairement à l'IA des services web publics, les modèles Granite ne sont pas entraînés en continu. Cette famille de modèles ne partage aucune donnée avec Red Hat, IBM ou d'autres utilisateurs des modèles Granite.
Utilisation des modèles Granite
Dans de nombreux secteurs, de la santé à la construction, les entreprises ont plusieurs options pour utiliser les modèles Granite de manière à automatiser leurs activités à grande échelle. Il est possible d'entraîner ces modèles à effectuer des tâches d'un domaine métier, comme la génération de résumés, la réponse aux questions et la classification. En voici quelques exemples.
- Génération de code : les modèles de code Granite peuvent contribuer au travail des équipes de développement, voire l'améliorer, afin de renforcer l'efficacité des processus. Par exemple, la saisie semi-automatique permet à un développeur de finir une ligne de code avant de l'écrire en entier, à la manière des suggestions de mots que proposent les smartphones.
- Extraction d'informations : les modèles Granite peuvent identifier rapidement des schémas et des renseignements précis, ce qui permet de simplifier de grands ensembles de données, les résumer ou les expliquer. Il n'est donc plus nécessaire de parcourir manuellement de grandes quantités de données.
Avantages des modèles Granite
- Architecture flexible : les modèles Granite s'intègrent aux systèmes existants et se déploient aussi bien sur site que dans le cloud. Leurs interfaces sont conçues pour simplifier le déploiement. La famille Granite comprend des modèles de différentes tailles adaptés à divers besoins et budgets informatiques.
- Solutions personnalisées : qualifiés de modèles de fondation, les modèles Granite sont capables d'acquérir des connaissances propres à une entreprise. Les utilisateurs peuvent les mettre à l'échelle et procéder à un réglage fin pour les adapter à leurs besoins métier. Par exemple, un fabricant d'appareils médicaux peut entraîner son modèle afin qu'il maîtrise le vocabulaire du secteur de la santé.
- Latence faible : en exécutant un modèle Granite sur leur propre infrastructure, les entreprises peuvent optimiser les délais de réponse. Le modèle peut fournir des données en temps réel, et ainsi faciliter certaines activités essentielles. Toujours dans le secteur de la santé, l'accès aux données en temps réel améliore la communication à distance entre le médecin et son patient, et aide à apporter les soins appropriés en temps voulu.
- Précision extrême : grâce au réglage fin, les modèles Granite peuvent être spécialisés dans un domaine et accomplir les tâches spécifiques d'un secteur. Il est également possible de les entraîner dans plusieurs langues afin d'assurer la précision et l'accessibilité à l'échelle mondiale.
- Transparence : la licence Open Source qui couvre les modèles Granite offre aux équipes de développement une visibilité sur la méthode de création et d'entraînement du modèle d'IA, et leur permet de collaborer avec une communauté Open Source.
Types de modèles Granite d'IBM
IBM a lancé plusieurs séries de modèles Granite pour répondre aux besoins de plus en plus complexes des applications d'entreprise. Les catégories et les conventions de dénomination des séries varient au sein de la famille Granite.
Chaque série a un objectif distinct.
- Granite pour les langues : ces modèles offrent un traitement du langage naturel précis dans plusieurs langues, et ce, avec une faible latence.
- Granite pour le code : entraînés avec plus de 100 langages de programmation différents, ces modèles prennent en charge les tâches logicielles d'entreprise.
- Granite pour les séries chronologiques : le réglage fin de ces modèles est axé sur la prévision des séries chronologiques, qui consiste à prévoir les futures données sur la base des anciennes.
- Granite pour la recherche géospatiale : IBM et la NASA ont créé ce modèle de fondation pour observer la Terre en recueillant des données satellites à grande échelle qui permettent de suivre les changements environnementaux et d'y faire face.
Chacune de ces séries se compose de modèles de différentes tailles aux spécialités variées. Par exemple, les modèles Granite pour les langues incluent :
- Granite-7b-base, un modèle de langage général destiné à la conversation et à la messagerie instantanée ;
- Granite-7b-instruct, un modèle spécialisé dans l'application des instructions de tâche.
Nos solutions
La gamme de produits d'IA Red Hat® AI repose sur des solutions approuvées par nos clients. C'est ce qui permet à nos produits de rester fiables, flexibles et évolutifs.
La gamme Red Hat AI offre les avantages suivants :
- Rapidité d'adoption de l'IA et d'innovation
- Simplification de la distribution de solutions d'IA
- Possibilité de déploiement dans tous les environnements
La gamme Red Hat AI donne accès aux LLM de la famille Granite et permet aussi aux entreprises d'utiliser leur propre modèle. Nos consultants peuvent également accompagner les entreprises qui créent et déploient des applications d'IA générative en parallèle des charges de travail essentielles pour leurs cas d'utilisation uniques.
Accès facilité aux LLM de la famille Granite
La plateforme de modèles de fondation Red Hat Enterprise Linux® AI est conçue pour le développement, les tests et l'exécution des LLM de la famille Granite. Parce qu'elle est Open Source, elle est économique et offre une prise en main plus facile pour un grand nombre d'utilisateurs. Cette plateforme permet aux utilisateurs de tester leurs propres données et de développer leurs compétences progressivement. Il s'agit d'un bon point de départ pour les entreprises qui cherchent encore à déterminer leurs cas d'utilisation. La plateforme de modèles de fondation Red Hat Enterprise Linux® AI est conçue pour le développement, les tests et l'exécution des LLM de la famille Granite. Parce qu'elle est Open Source, elle est économique et offre une prise en main plus facile pour un grand nombre d'utilisateurs.
Débuter avec InstructLab
Red Hat Enterprise Linux AI inclut InstructLab, un projet communautaire Open Source axé sur l'amélioration des LLM. Les fonctions d'InstructLab permettent à toutes les équipes de développement de contribuer facilement au projet, quel que soit leur niveau de compétences et de ressources à leur disposition. Elles peuvent l'utiliser pour commencer à travailler avec des modèles d'IA. InstructLab demande bien moins d'informations générées par l'homme et de ressources de calcul pendant l'entraînement que d'autres modèles. De plus, InstructLab est compatible avec de nombreux modèles, ce qui permet de procéder au réglage fin supplémentaire de divers LLM.
Le blog officiel de Red Hat
Découvrez les dernières informations concernant notre écosystème de clients, partenaires et communautés.