O que são modelos Granite?
Granite é uma série de Large Language Models (LLMs) criada pela IBM para aplicações empresariais. Os modelos de base Granite oferecem suporte a casos de uso de inteligência artificial generativa (gen AI) que envolvem linguagem e código.
Os modelos dafamília Granite são open source e certificados sob a licença Apache 2.0. Isso permite que os desenvolvedores os testem, modifiquem e distribuam gratuitamente. Por isso, os modelos Granite são uma boa escolha para organizações que lidam com dados confidenciais e querem executar seu próprio LLM em vez de depender de um serviço externo.
Como funcionam os modelos de IA Granite?
Os modelos de base são treinados para apresentar uma compreensão abrangente dos padrões, estruturas e representações da linguagem. Esse treinamento “básico” ensina ao modelo a comunicar-se e identificar esses padrões.
Os modelos de IA do IBM Granite possuem esse conhecimento básico, que pode passar por um ajuste fino para executar tarefas específicas de praticamente qualquer setor. Os modelos da família Granite são treinados com dados selecionados e oferecem transparência em relação aos dados utilizados no treinamento.
Os LLMs usam a gen AI para produzir novos conteúdos baseados nos prompts fornecidos por um usuário. Atualmente, é comum usar a gen AI para gerar texto, imagens, vídeo e código. As empresas podem usar modelos de base de LLM para automatizar vários aspectos das operações, como atendimento ao cliente por chatbots ou testes de código de software.
Outros modelos de base de LLM que usam gen AI incluem o LLaMa da Meta (que inclui LLaMa 2 e LLaMa 3), o Gemini do Google, o Claude da Anthropic e o GPT da OpenAI (conhecida pelo famoso bot ChatGPT) e o Mistral. O diferencial dos modelos de IA Granite é a transparência em relação os dados de treinamento, o que fortalece a confiança dos usuários e torna esses modelos a escolha ideal para ambientes empresariais.
Recursos da Red Hat
Os modelos Granite são open source?
Sim, algumas das séries de modelos de IA do Granite estão disponíveis sob uma licença open source, o que simplifica o acesso pelos desenvolvedores para aprimorá-los localmente. Eles podem fazer o ajuste fino do modelo, a fim de adaptá-lo para seus objetivos específicos. Os usuários têm acesso à maior parte dos dados utilizados para treinar o modelo (em PDF), o que permite que eles compreendam sua construção e funcionamento.
No caso
dos modelos Granite, open source significa um ambiente onde os desenvolvedores podem personalizar o modelo com seus próprios dados para gerar resultados específicos para cada usuário. Isso não quer dizer que os dados privados de todos ficam disponíveis para toda a comunidade open source. Diferente da IA de serviços web públicos, os modelos Granite não são treinados continuamente. Assim, nenhuma das entradas de dados no modelo da família Granite será compartilhada com a Red Hat, a IBM ou outros usuários do Granite.
Como usar os modelos Granite?
Empresas de diversos setores, da saúde à construção, podem usar o Granite de diferentes maneiras para automatizar operações em larga escala. Os modelos Granite podem ser treinados em tarefas do setor de negócios, como resumo, resposta a perguntas e classificação. Veja alguns exemplos:
- Geração de código: os modelos de código Granite podem ajudar a desenvolver ou aprimorar o trabalho dos desenvolvedores a fim de aumentar a eficiência dos processos. Por exemplo, é possível utilizar o modelo de preenchimento automático, similar ao preenchimento automático de smartphones, que completa uma sentença de código antes do desenvolvedor terminar de digitar.
- Extração de insights: quando você precisar simplificar, resumir ou explicar grandes conjuntos de dados, o Granite identifica padrões precisos rapidamente e gera insights. Assim, você não precisa verificar manualmente grandes volumes de dados.
Quais são os benefícios do Granite?
- Arquitetura flexível: é possível integrar o Granite a sistemas existentes e implantá-lo on-premise ou na nuvem. Ele conta com interfaces desenvolvidas para simplificar a implantação. A família Granite inclui modelos de diversos tamanhos. Assim, você pode escolher o tamanho que melhor atende às suas necessidades, controlando os custos de computação.
- Soluções personalizadas: o Granite é comercializado como modelo de base, mas foi desenvolvido para ser treinado com conhecimentos específicos dos negócios. Os usuários têm flexibilidade para escalar e fazer o ajuste fino no modelo, podendo personalizá-lo conforme as necessidades empresariais. Por exemplo, se o foco da sua empresa for dispositivos médicos, você pode ensinar o jargão usado na área da saúde ao modelo.
- Baixa latência: executar um modelo Granite na sua própria infraestrutura permite otimizar os tempos de resposta. Como o modelo é capaz de fornecer dados em tempo real, ele é particularmente útil para operações essenciais. Ainda usando o exemplo da área da saúde, acessar dados em tempo real é importante para a colaboração remota entre médicos, pacientes e atendimento de urgência.
- Alta precisão: na série Granite, os desenvolvedores podem ajustar o modelo para tarefas específicas do setor e torná-lo especialista em qualquer assunto. Ele também pode ser treinado em vários idiomas para manter a precisão e a acessibilidade em escala global.
- Modelos transparentes: uma vez que o Granite está disponível sob uma licença open source, os desenvolvedores conseguem ver como o modelo de IA foi criado e treinado, além de poder colaborar com a comunidade.
Tipos de modelos IBM Granite
A IBM lançou várias séries de modelos Granite para atender às necessidades de aplicações empresariais cada vez mais complexas. Há diferentes convenções de nomenclatura e categorias para as séries de modelos na família Granite.
Cada série atende a um propósito diferente:
- Granite para Linguagem: esses modelos oferecem PNL (Processamento de Linguagem Natural) preciso em vários idiomas, mantendo a baixa latência.
- Granite para Código: esses modelos são treinados em mais de 100 linguagens de programação diferentes para oferecer suporte a tarefas de software de nível empresarial.
- Granite para Séries Temporais: esses modelos são ajustados especificamente para prever séries temporais, utilizando dados históricos para realizar projeções sobre dados futuros.
- Granite para Geoespacial: A IBM e a NASA desenvolveram este modelo de base para observar o planeta Terra, utilizando dados de satélites em larga escala para monitorar e responder a mudanças ambientais.
Em todas essas séries, o Granite oferece modelos com diferentes tamanhos e funcionalidades. Por exemplo, o Granite for Language inclui:
- Granite-7b-base, um modelo de linguagem de uso geral para fins de conversação e chat.
- Granite-7b-instruct, especializado em seguir instruções específicas para a execução de tarefas.
Como a Red Hat pode ajudar?
Red Hat® AI é nosso portfólio de produtos de IA, desenvolvido com base em soluções nas quais nossos clientes já confiam. Com essa base, nossas soluções permanecem consistentes, flexíveis e escaláveis.
O portfólio Red Hat AI ajuda as organizações a:
- Adotar a IA e inovar rapidamente.
- Reduzir as complexidades da entrega de soluções de IA.
- Implantar em qualquer ambiente.
Com o Red Hat AI, você tem acesso aos recursos bring-your-own-model (traga seu próprio modelo) e aos LLMs da família Granite. Além disso, nossos consultores oferecem suporte hands-on para casos de uso específicos da sua empresa ao desenvolver e a implantar aplicações de gen AI com cargas de trabalho críticas.
Acesse LLMs da família Granite com facilidade
O Red Hat® Enterprise Linux AI® é uma plataforma de modelo de base específica para desenvolver, testar e executar LLMs da família Granite. A abordagem open source mantém os custos baixos e facilita a adoção da tecnologia para uma grande variedade de usuários. Essa plataforma permite fazer experimentos com os seus próprios dados e aprender ao longo do processo. É um bom ponto de partida se você não souber quais são os casos de uso da sua empresa. O Red Hat® Enterprise Linux AI® é uma plataforma de modelo de base específica para desenvolver, testar e executar LLMs da família Granite. A abordagem open source mantém os custos baixos e facilita a adoção da tecnologia para uma grande variedade de usuários.
Comece a usar o InstructLab
O Red Hat Enterprise Linux AI inclui o InstructLab, um projeto da comunidade open source para aprimorar LLMs. As funcionalidades do InstructLab permitem que desenvolvedores de todos os níveis contribuam com o projeto, sendo um bom ponto de partida para começar a explorar modelos de IA. Além disso, o InstructLab exige menos informações geradas por humanos e consome menos recursos de computação. O InstructLab é compatível com uma variedade de modelos, oferecendo ajuste fino adicional para qualquer LLM que você escolher.
Blog da Red Hat
Tudo relacionado à Red Hat: soluções, treinamentos e certificações Red Hat, casos de sucesso de clientes, novidades dos nossos parceiros e notícias sobre projetos das comunidades open source.
