Red Hat entrega a próxima onda de inovação com gen AI com novas funcionalidades do Red Hat Enterprise Linux AI

Red Hat, Inc., líder global no fornecimento de soluções open source,  anunciou hoje o novo lançamento do Red Hat Enterprise Linux AI (RHEL AI), plataforma de modelos fundamentais da Red Hat para desenvolver, testar e operar de forma mais simples modelos de inteligência artificial generativa (gen AI) para aplicações empresariais. O RHEL AI 1.3 oferece suporte para os últimos avanços na família Granite de grandes modelo de linguagem (LLM) e incorpora avanços open source para preparação de dados enquanto ainda mantém amplitude de escolhas para implantações de nuvem híbrida, incluindo a arquitetura de computação acelerada adjacente.

De acordo com a “Market Analysis Perspective: Open GenAI, LLMs, and the Evolving Open Source Ecosystem” do IDC, 61% dos entrevistados planejam usar modelos fundamentais open source para casos de uso de IA generativa, enquanto mais de 56% dos modelos fundamentais implantados já são open source. A Red Hat avalia que essa tendência valida a visão da empresa para IA generativa empresarial, que exige:

• Modelos menores, com licença open source, que podem ser executados em qualquer lugar e em qualquer ambiente necessário na nuvem híbrida.
• Recursos de ajuste fino que permitem que as organizações personalizem LLMs mais facilmente para dados privados e casos de uso específicos.
• Modelos de IA otimizados e mais eficientes impulsionados pela experiência em engenharia de desempenho de inferência.
• O apoio de um parceiro forte e de um ecossistema open source para ampliar as opções de escolha do cliente.

O RHEL AI constitui um pilar fundamental para a visão de IA da Red Hat, reunindo a família de modelos Granite com licença open source e as ferramentas de alinhamento de modelos InstructLab, com base na metodologia Large-scale Alignment for chatBots (LAB). Esses componentes são empacotados como uma imagem otimizada e inicializável do Red Hat Enterprise Linux para implantações de servidores individuais em qualquer lugar da nuvem híbrida.

Suporte para LLMs Granite 3.0

O RHEL AI 1.3 estende o compromisso da Red Hat com os Granite LLMs com suporte para casos de uso em inglês do Granite 3.0 8b. O Granite 3.0 8b é um modelo convergente, com suporte não apenas ao inglês, mas a uma dúzia de outros idiomas naturais, geração de código e chamada de função. Casos de uso de idiomas diferentes do inglês, bem como código e funções, estão disponíveis como uma prévia do desenvolvedor no RHEL AI 1.3, com a expectativa de que esses recursos sejam suportados em futuras versões do RHEL AI.

Simplificando a preparação de dados com Docling

Recentemente disponibilizado como open source pela IBM Research, o Docling é um projeto da comunidade upstream que ajuda a analisar formatos comuns de documentos e convertê-los em formatos como Markdown e JSON, preparando esse conteúdo para aplicações e treinamento de IA generativa. O RHEL AI 1.3 agora incorpora essa inovação como um recurso suportado, permitindo que os usuários convertam PDFs em Markdown para ingestão simplificada de dados para ajuste de modelo com o InstructLab.

Por meio do Docling, o RHEL AI 1.3 agora também inclui chunking com reconhecimento de contexto, que leva em conta a estrutura e os elementos semânticos dos documentos usados ​​para treinamento de IA generativa. Isso ajuda aplicações de IA generativa resultantes a manter melhores níveis de coerência e respostas contextualmente apropriadas a perguntas e tarefas que, de outra forma, exigiriam mais ajustes e alinhamentos.

As versões futuras do RHEL AI continuarão a oferecer suporte e refinar os componentes do Docling, incluindo formatos de documentos adicionais, bem como integração para pipelines de c, além do ajuste de conhecimento do InstructLab.

Ampliando o ecossistema de IA generativa

A liberdade de escolha é um componente fundamental da nuvem híbrida e com a IA generativa servindo como uma carga de trabalho típica de ambientes híbridos, essa opcionalidade precisa começar com as arquiteturas de chip subjacentes. O RHEL IA já suporta aceleradores líderes da NVIDIA e AMD, e a versão 1.3 agora inclui o Intel Gaudi 3 como uma prévia da tecnologia.

Além da arquitetura de chip, o RHEL AI recebe suporte dos principais provedores de nuvem, incluindo AWS, Google Cloud e consoles Microsoft Azure como uma oferta “traga sua própria assinatura” (BYOS). A plataforma também estará disponível em breve como uma opção de solução otimizada e validada no Azure Marketplace e AWS Marketplace.

O RHEL AI está disponível como uma plataforma de modelo fundamental em ofertas de hardware acelerado de parceiros da Red Hat, incluindo servidores Dell PowerEdge R760xa e servidores Lenovo ThinkSystem SR675 V3.

Aprimoramento da disponibilização de modelos com Red Hat OpenShift AI

À medida que os usuários buscam aumentar a disponibilização de  LLMs, o Red Hat OpenShift AI agora dá suporte à disponibilização paralelizada em vários nós com runtimes vLLM, fornecendo a capacidade de lidar com vários pedidos em tempo real. O Red Hat OpenShift AI permite que os usuários alterem dinamicamente os parâmetros de um LLM quando estiverem disponibilizados, tais como fragmentar o modelo em vários GPUs ou quantizar o modelo para uma estrutura menor. Estas melhorias visam acelerar o tempo de resposta para os usuários, deixando-os mais satisfeitos e reduzindo a taxa de rotatividade.

Apoiando o Red Hat AI

O RHEL AI, junto com o Red Hat OpenShift AI, dá suporte ao Red Hat AI, o portfólio de soluções da Red Hat que acelera o tempo necessário para lançar produtos no mercado e reduz o custo operacional de entrega de soluções de IA na nuvem híbrida. O RHEL AI oferece suporte a ambientes de servidores Linux individuais, enquanto o Red Hat OpenShift AI potencializa ambientes de plataforma Kubernetes distribuídos e fornece recursos integrados de operações de aprendizado de máquina (MLOps). Ambas as soluções são compatíveis entre si, com o Red Hat OpenShift AI incorporando todos os recursos do RHEL AI para serem entregues em escala.

Disponibilidade

O RHEL AI 1.3 já está disponível. Mais informações sobre funcionalidades adicionais, melhorias, consertos de bugs e como atualizar para a versão mais  recente podem ser encontrados aqui.

Comentário de apoio

Joe Fernandes, vice-presidente e gerente geral da Unidade de Negócios de Inteligência Artificial da Red Hat

“Para aproveitar o poder transformador da IA generativa, acreditamos que modelos menores e otimizados são necessários e que esses modelos precisam ser implantados em qualquer parte da nuvem híbrida. As melhorias que implementamos no RHEL AI partem desse princípio, facilitando a preparação de dados organizacionais para o treinamento de modelos com Docling e incorporando os últimos avanços na família Granite de  LLMs licenciados de forma open source.”