Capítulo 3: Tecnologia aberta e flexível equilibra a inovação em IA com a estabilidade operacional
O Red Hat® AI acelera o desenvolvimento e a implementação de soluções de IA empresarial em ambientes de nuvem híbrida. Esta plataforma abrangente atende aos clientes em qualquer estágio (do início à escala para uma arquitetura empresarial completa) e oferece suporte à implantação de qualquer modelo em qualquer acelerador de hardware. Ao combinar o poder das tecnologias open source com modelos de última geração, o Red Hat AI ajuda as organizações a acelerar o ritmo de descoberta e a democratizar o acesso às ferramentas de IA mais recentes.
O Red Hat AI inclui o Red Hat AI Enterprise, para empresas que buscam implantar e escalar com eficiência em qualquer lugar; o Red Hat AI Inference Server, para inferência otimizada de Large Language Models (LLMs); o Red Hat OpenShift® AI, para ambientes de plataforma Kubernetes distribuídos; o Red Hat Enterprise Linux AI, para ambientes de servidor Linux individuais; e o Red Hat AI Accelerator, para oferecer suporte a recursos de aceleração de hardware no Red Hat OpenShift. Essas soluções combinam o poder das tecnologias open source com modelos open source de última geração, ajudando as organizações a acelerar o ritmo da descoberta e a democratizar o acesso a ferramentas e tecnologias de ponta. O acesso às inovações mais recentes é complementado pelo ecossistema de parceiros da Red Hat, que oferece diversos produtos e serviços testados, certificados e com suporte para funcionar com nossas tecnologias, ajudando os clientes a resolver desafios técnicos e de negócios.
Juntos, esses produtos, serviços e tecnologias oferecem:
Inferência flexível e eficiente
O Red Hat AI otimiza a inferência de modelos em ambientes de nuvem híbrida para ajudar as organizações a implantar seus modelos preferidos com mais rapidez e melhor custo-benefício. O runtime vLLM maximiza a taxa de transferência e minimiza a latência. Já o recurso LLM Compressor utiliza técnicas avançadas de quantização para aumentar a velocidade de inferência sem sacrificar a precisão das previsões. O resultado é um ambiente de alto desempenho para a disponibilização de modelos em uma ampla variedade de aplicações.
Conexão de modelos com dados
O Red Hat AI simplifica a integração de dados corporativos privados com modelos de IA, fornecendo ferramentas padronizadas para preparar e ingerir informações para fundamentar as saídas de IA em conhecimentos de negócios específicos e relevantes. As organizações podem aumentar o desempenho do modelo com técnicas de personalização, como ajuste fino, geração aumentada por recuperação (RAG) e ajuste de prompt. Essa abordagem garante que os modelos de IA se alinhem aos cenários empresariais para entregar resultados de negócios mensuráveis.
Inovação com agentes de IA
O Red Hat AI oferece uma base confiável para lideranças organizacionais, com foco na segurança em toda a plataforma (do bare metal aos agentes), garantindo a aplicação de políticas e o controle de riscos. A plataforma oferece inferência de alto desempenho, acesso a modelos precisos e uma experiência simplificada para conectar dados a agentes. Com recursos de AgentOps, o Red Hat AI oferece governança focada em segurança e controle de acesso baseado em identidade, além de flexibilidade para as equipes usarem seus próprios frameworks de agentes. Isso garante que as implantações de IA permaneçam protegidas, observáveis e totalmente governadas à medida que amadurecem.