O que são modelos Granite?

O granite é uma série de grandes modelos de linguagem (LLMs) criados pela IBM para aplicativos empresariais. Os modelos base do granite são compatíveis com casos de uso de inteligência artificial generativa (IA de geração) que envolvem linguagem e código.

Os modelos da família do granite são open source assegurados pela licença do Apache 2.0, o que significa que os desenvolvedores podem experimentar, modificar e distribuir os modelos do granite gratuitamente. Por isso, os modelos Granite são uma boa escolha para organizações que lidam com dados confidenciais e querem executar seu próprio LLM em vez de depender de um serviço externo.

Confira como o Granite funciona com a Red Hat

Os modelos base são treinados para funcionar com uma compreensão geral de padrões, estruturas e representações de linguagem. Esse treinamento “básico” ensina ao modelo a comunicar-se e identificar esses padrões. Isso é chamado de inferência de IA. A inferência de IA é a fase operacional da IA, na qual o modelo é capaz de aplicar o que foi aprendido com o treinamento e aplicá-lo a situações do mundo real."

Os modelos de IA do IBM Granite possuem esse conhecimento básico, que pode passar por um ajuste fino para executar tarefas específicas de praticamente qualquer setor. Os modelos da família Granite são treinados com dados selecionados e oferecem transparência em relação aos dados utilizados no treinamento.

Os LLMs usam a gen AI para produzir novos conteúdos baseados nos prompts fornecidos por um usuário. Atualmente, é comum usar a gen AI para gerar texto, imagens, vídeo e código. As empresas podem usar modelos de base de LLM para automatizar vários aspectos das operações, como atendimento ao cliente por chatbots ou testes de código de software.

Outros modelos de base de LLM que usam gen AI incluem o LLaMa da Meta (que inclui LLaMa 2 e LLaMa 3), o Gemini do Google, o Claude da Anthropic e o GPT da OpenAI (conhecida pelo famoso bot ChatGPT) e o Mistral. O diferencial dos modelos de IA Granite é a transparência em relação os dados de treinamento, o que fortalece a confiança dos usuários e torna esses modelos a escolha ideal para ambientes empresariais.

Sim, algumas das séries de modelos de IA do Granite estão disponíveis sob uma licença open source, o que simplifica o acesso pelos desenvolvedores para aprimorá-los localmente. Eles podem fazer o ajuste fino do modelo, a fim de adaptá-lo para seus objetivos específicos. Os usuários têm acesso à maior parte dos dados utilizados para treinar o modelo (em PDF), o que permite que eles compreendam sua construção e funcionamento.

Quando se trata de modelos do GRANITE, open source significa um espaço onde os desenvolvedores podem personalizar o modelo com seus próprios dados para gerar saídas específicas do usuário. Isso não quer dizer que os dados privados de todos ficam disponíveis para toda a comunidade open source. Diferente da IA de serviços web públicos, os modelos Granite não são treinados continuamente. Assim, nenhuma das entradas de dados no modelo da família Granite será compartilhada com a Red Hat, a IBM ou outros usuários do Granite.

Empresas de diversos setores, da saúde à construção, podem usar o Granite de diferentes maneiras para automatizar operações em larga escala. Os modelos Granite podem ser treinados em tarefas do setor de negócios, como resumo, resposta a perguntas e classificação. Veja alguns exemplos:

• Geração de código: os modelos de código de granite podem ajudar a criar ou melhorar o trabalho feito pelos desenvolvedores para tornar os processos mais eficientes. Por exemplo, é possível utilizar o modelo de preenchimento automático, similar ao preenchimento automático de smartphones, que completa uma sentença de código antes do desenvolvedor terminar de digitar. 
• Extração de insights: quando você precisa simplificar, resumir ou explicar grandes conjuntos de dados, o granite pode identificar padrões e insights precisos rapidamente. Assim, você não precisa verificar manualmente grandes volumes de dados. 

Veja mais casos de uso de IA

• Arquitetura flexível: a solução pode ser integrada a sistemas existentes e implantada on-premise ou na nuvem. Ele conta com interfaces desenvolvidas para simplificar a implantação. A família Granite inclui modelos de diversos tamanhos. Assim, você pode escolher o tamanho que melhor atende às suas necessidades, controlando os custos de computação.
• Soluções personalizadas: embora o granite seja vendido como um modelo de base, ele foi criado para ser treinado para obter conhecimento específico dos negócios. Os usuários têm flexibilidade para escalar e fazer o ajuste fino no modelo, podendo personalizá-lo conforme as necessidades empresariais. Por exemplo, se o foco da sua empresa for dispositivos médicos, você pode ensinar o jargão usado na área da saúde ao modelo. 
• Baixa latência: ao executar um modelo do granite na sua própria infraestrutura, você pode otimizar os tempos de resposta. Como o modelo é capaz de fornecer dados em tempo real, ele é particularmente útil para operações essenciais. Ainda usando o exemplo da área da saúde, acessar dados em tempo real é importante para a colaboração remota entre médicos, pacientes e atendimento de urgência.  
• Alta precisão: os desenvolvedores podem ajustar o modelo da série de acordo com tarefas específicas do setor para que o modelo seja um especialista em qualquer assunto. Ele também pode ser treinado em vários idiomas para manter a precisão e a acessibilidade em escala global. 
• Modelos transparentes: como o Grainite está disponível sob uma licença open source, os desenvolvedores podem ver como o modelo de IA foi criado e treinado, além de colaborar com a comunidade open source.

A IBM lançou várias séries de modelos Granite para atender às necessidades de aplicações empresariais cada vez mais complexas. Há diferentes convenções de nomenclatura e categorias para as séries de modelos na família Granite.

Cada série atende a um propósito diferente:

• Fornecimento de linguagem: esses modelos oferecem processamento de linguagem natural (NLP) preciso em vários idiomas enquanto mantêm baixa latência.
• Confirme for Code: esses modelos são treinados em mais de 100 linguagens de programação diferentes para oferecer suporte a tarefas de software de nível empresarial.
• Definido para séries temporais: esses modelos são ajustados para previsão de séries temporais, um método de prever dados futuros usando dados do passado.
• GeoSpacial: a IBM e a NASA criaram este modelo base que pode observar a Terra com coleta de dados de satélite em larga escala para ajudar a rastrear e lidar com mudanças no ambiente.

Em todas essas séries, o Granite oferece modelos com diferentes tamanhos e funcionalidades. Por exemplo, o Granite for Language inclui:

• Granite-7b-base, um modelo de linguagem de uso geral para fins de conversação e chat.
• Granite-7b-instruct, especializado em seguir instruções específicas para a execução de tarefas.

Conheça os modelos do Granite no Hugging Face

O Red Hat® AI é nosso portfólio de produtos de IA, desenvolvido com base em soluções em que nossos clientes confiam. Com essa base, nossas soluções permanecem consistentes, flexíveis e escaláveis.

O portfólio Red Hat AI ajuda as organizações a:

• Adotar a IA e inovar rapidamente.
• Reduzir as complexidades da entrega de soluções de IA.
• Implante em qualquer ambiente.

Com o Red Hat AI, você tem acesso aos recursos bring-your-own-model (traga seu próprio modelo) e aos LLMs da família Granite. Além disso, nossos consultores oferecem suporte hands-on para casos de uso específicos da sua empresa ao desenvolver e a implantar aplicações de gen AI com cargas de trabalho críticas.

Conheça o Red Hat AI

Tenha acesso fácil aos LLMs da família de graniteiros

O Red Hat® Enterprise Linux AI® é uma plataforma de modelo de base específica para desenvolver, testar e executar LLMs da família Granite. A abordagem open source mantém os custos baixos e facilita a adoção da tecnologia para uma grande variedade de usuários. Essa plataforma permite fazer experimentos com os seus próprios dados e aprender ao longo do processo. É um bom ponto de partida se você não souber quais são os casos de uso da sua empresa. O Red Hat® Enterprise Linux AI® é uma plataforma de modelo de base específica para desenvolver, testar e executar LLMs da família Granite. A abordagem open source mantém os custos baixos e facilita a adoção da tecnologia para uma grande variedade de usuários.

Leia mais sobre o Red Hat Enterprise Linux AI

Comece pelo InstructLab

O Red Hat Enterprise Linux AI inclui o InstructLab, um projeto da comunidade open source para aprimorar LLMs. As funcionalidades do InstructLab permitem que desenvolvedores de todos os níveis contribuam com o projeto, sendo um bom ponto de partida para começar a explorar modelos de IA. Além disso, o InstructLab exige menos informações geradas por humanos e consome menos recursos de computação. O InstructLab é compatível com uma variedade de modelos, oferecendo ajuste fino adicional para qualquer LLM que você escolher.

Confira como treinar um LLM no InstructLab