Red Hat AI em ação: aplicações práticas da IA generativa

A inteligência artificial (IA) continua sendo uma importante área de inovação e investimento para empresas em todo o mundo. De acordo com a IDC, os gastos globais com soluções de IA terão uma taxa de crescimento anual composta (CAGR) de 29% no período de 2023 a 2028, chegando a US$ 632 bilhões.1 

A IA generativa (gen IA) é um estímulo determinante para esse crescimento, com uma CAGR global esperada de 59,2% para o mesmo período.1 A gen IA é uma ferramenta poderosa para as organizações que querem desenvolver soluções inovadoras, otimizar processos e obter vantagens competitivas em mercados dinâmicos. Baseada nos avanços em deep learning e redes neurais, ela vai além dos recursos da IA preditiva, pois processa dados e gera conteúdo novo e original. A gen IA cria esse novo conteúdo ou dados com base nos padrões aprendidos com informações existentes. Ela pode gerar textos, imagens, códigos, sons ou outras mídias semelhantes aos seus dados de treinamento, oferecendo soluções inovadoras para a criação e personalização de conteúdo. Como resultado, a gen IA está remodelando a colaboração entre humanos e máquinas, inspirando novas abordagens à solução de problemas e proporcionando ganhos significativos para os negócios de diversos setores.

As aplicações de gen IA oferecem uma variedade de benefícios para as empresas:

• Melhoria da produtividade dos funcionários.
• Aumento da satisfação dos clientes.
• Redução dos custos operacionais.

Neste e-book, você encontra as principais estratégias e considerações para a escolha de soluções de IA, os benefícios de optar por uma solução que equilibre abordagens de desenvolvimento personalizado e pronto para uso, além de casos de uso para começar a usar a gen IA na sua empresa. Continue lendo para descobrir como você pode desenvolver uma base para a inovação com a gen IA.

Como qualquer grande iniciativa de TI ou negócios, criar uma estratégia para a implementação da IA na sua organização é crucial para o sucesso. 

As empresas podem seguir dois caminhos na estratégia de IA: adotar um serviço de IA na nuvem ou desenvolver e hospedar uma plataforma de IA por conta própria. Essas opções exigem diferentes níveis de envolvimento técnico e esforço operacional, além de oferecerem diferentes níveis de personalização e controle.

Serviços de IA na nuvem

Os serviços de IA baseados na nuvem são disponibilizados por um fornecedor terceirizado como uma solução paga e gerenciada. Esses serviços oferecem acesso a modelos frontier por meio de interfaces de programação de aplicações (APIs). Dessa forma, sua organização pode integrar modelos de IA nas aplicações sem precisar hospedar o modelo. Algumas ofertas comerciais privadas também permitem ajustar os modelos disponibilizados ou implantá-los em um ambiente dedicado ou mais controlado.

Por oferecer soluções de IA prontas para uso com interação mínima com o modelo, essa abordagem pode ser mais simples e econômica para organizações que não querem lidar com a complexidade de gerenciar infraestrutura de IA, têm equipes de operações menores ou adotam IA em menor escala.

Plataformas de IA auto-hospedadas

Ao desenvolver e hospedar uma plataforma de IA por conta própria, você tem mais opções e controle sobre seus modelos e ambiente. Você pode escolher o hardware, software, modelos, aplicações e local de implantação mais adequados às necessidades da sua organização. Por exemplo, você pode hospedar seus modelos e aplicações em nuvens públicas, privadas, data centers locais ou locais de edge. Essa abordagem também oferece mais oportunidades para personalizar seus modelos e aplicações, maior controle sobre seus dados e menor dependência de provedores terceirizados. Ainda assim, isso geralmente envolve investimentos iniciais mais altos e maiores esforços operacionais contínuos, além de muitos custos de manutenção, em comparação ao serviço de IA na nuvem.

Para desenvolver e hospedar uma plataforma de IA, você precisa de:

• Acesso a modelos fundamentais para seu caso de uso. Por exemplo, Large Language Models (LLMs), modelos de código, Small Language Models (SLMs), modelos open source e modelos multimodais.
• Acesso a recursos de aceleração de hardware, como unidades de processamento gráfico (GPUs).
• Acesso a uma plataforma de aplicações com ferramentas de IA avançadas e mecanismos de disponibilização.
• Uma solução de governança para conformidade e uso responsável da IA.

Com essa abordagem, você tem maior controle sobre suas soluções de IA. Por isso, ela é ideal para organizações que operam em setores altamente regulamentados, planejam usar dados confidenciais e propriedade intelectual (PI) em soluções de IA ou têm equipes de operações maiores capazes de lidar com as complexidades de desenvolver, executar e manter a infraestrutura de IA.

Comparação de abordagens a estratégias de IA

Considerações sobre a avaliação de soluções de IA

Ao avaliar soluções e estratégias de IA, não deixe de considerar transparência, eficiência e relevância.

Assegure transparência em soluções de IA

Soluções de IA que oferecem transparência, responsabilização e explicabilidade ao assegurar a privacidade, segurança e conformidade regulatória dos dados são essenciais para desenvolver confiança, mitigar riscos e manter a competitividade. Procure fornecedores que revelam claramente as arquiteturas dos modelos, os dados de treinamento e as métricas de desempenho, além de oferecer mecanismos de responsabilização e explicações para os resultados gerados. 

Otimize a infraestrutura e a rentabilidade

Com soluções escaláveis e de baixo custo, compatíveis com otimização de modelos, treinamento distribuído e configurações de hardware eficientes, você pode minimizar as despesas operacionais, aprimorar o desempenho e se adaptar rapidamente às demandas em constante mudança. Aplique técnicas como quantização e destilação para reduzir a dependência de hardware, os custos com infraestrutura e o impacto geral no ambiente.

Explore aplicações específicas do setor

As soluções de gen IA têm uma ampla variedade de usos. Encontre soluções que incluam grandes bibliotecas de casos de uso de IA específicos do setor e ofereçam templates pré-desenvolvidos para aplicações, como mecanismos de recomendação e suporte ao cliente, para acelerar o time to market. Ferramentas que permitem ajustar modelos com dados específicos da empresa oferecem um contexto aprimorado, gerando respostas mais precisas e relevantes.

Maximize o valor de seus investimentos em IA

1. Alinhe suas iniciativas de IA às metas empresariais. Escolha uma solução que ofereça suporte direto aos objetivos estratégicos, como diferenciação ou eficiência.
2. Otimize seu custo total de propriedade (TCO). Além dos custos iniciais da solução, considere as despesas com manutenção, infraestrutura e profissionais.
3. Priorize a adoção e a usabilidade. Escolha uma solução que equilibre a velocidade da adoção com funcionalidades que suas equipes realmente possam usar para serem produtivas.
4. Aproveite serviços de IA centralizados. Evite retrabalho e otimize o uso da GPU criando e disponibilizando Modelos como serviço (MaaS) escaláveis que todas as equipes podem usar.
5. Avalie e adapte continuamente. Acompanhe seu retorno sobre investimento (ROI) avaliando fatores como economia de custos, ganhos de eficiência e aumento de receita para adaptar sua abordagem conforme necessário.

O Red Hat® AI é um portfólio de soluções e serviços que acelera o desenvolvimento e a implantação de soluções de IA em ambientes de nuvem híbrida. Com foco em simplificar a adoção da IA, o portfólio torna as tecnologias avançadas de IA mais acessíveis em toda a organização. 

Ao equilibrar flexibilidade e consistência, o Red Hat AI ajuda as equipes a implantar e gerenciar a modelos de gen IA e IA preditiva onde fizer mais sentido para sua carga de trabalho e estratégia geral. De implantações em servidor único a arquiteturas de plataforma altamente distribuídas e escaláveis, o portfólio oferece suporte a todas as etapas da sua jornada de adoção da IA. Dessa forma, você pode começar aos poucos e expandir conforme suas necessidades e planos. O suporte a uma variedade de aceleradores de hardware, fabricantes de equipamentos originais (OEMs) e provedores de nuvem disponibiliza um ambiente estável, otimizado e de alto desempenho para suas cargas de trabalho de IA. Além disso, você pode implantar suas aplicações e serviços de IA em diversos ambientes, como infraestrutura local, recursos de nuvem privada e pública e locais de edge.

O portfólio do Red Hat AI inclui o Red Hat Enterprise Linux® AI para ambientes de servidores Linux individuais, o Red Hat OpenShift® AI para plataformas Kubernetes distribuídas e o Red Hat AI Inference Server para inferência otimizada de LLMs. Essas soluções oferecem tecnologias open source e SLMs específicos, proporcionando acesso às ferramentas de IA mais recentes e ajudando a reduzir os altos custos frequentemente associados à gen IA. Na verdade, os modelos incluídos da família Granite (distribuídos sob a licença Apache 2.0 com transparência nos conjuntos de dados de treinamento) ajudam você a começar a usar a gen IA em menos tempo. Para isso, eles usam modelos menores e eficientes que reduzem os custos operacionais sem comprometer o desempenho. O suporte técnico de produção e a indenização por uso indevido do modelo de propriedade intelectual (PI) ajudam você a mitigar riscos enquanto se concentra no desenvolvimento, implantação e gerenciamento de soluções inovadoras de IA com confiança, transparência e economia. Por fim, o ecossistema de parceiros do Red Hat AI ajuda a acelerar a inovação com uma variedade de soluções e serviços testados, compatíveis e certificados que respondem a desafios empresariais e técnicos.

Agilize a entrega de modelos de IA

Com o Red Hat AI, suas equipes podem desenvolver modelos de IA generativa e preditiva usando dados empresariais confidenciais. O portfólio inclui ferramentas essenciais, suporte a GPU e ambientes self-service sob demanda, o que aumenta a agilidade e reduz as dependências da TI. Com acesso a um catálogo de modelos pré-otimizados e open source da família Granite, você pode personalizar as soluções com eficiência para atender a casos de uso específicos. Ao centralizar modelos, aplicações e gerenciamento de códigos, as plataformas simplificam a integração de aplicações e modelos de IA. Criado para fluxos de trabalho de produção de nível empresarial, o Red Hat AI prioriza segurança, otimização dos custos e eficiência operacional. Ele oferece suporte confiável diariamente por meio de serviços de governança, monitoramento, segurança, operações de machine learning (MLOps) e Large Language Model Operations (LLMOps). Além disso, o suporte a implantações isoladas no local ou em instâncias de computação em nuvem privada reduz o risco de exposição de dados confidenciais.

Benefícios do Red Hat AI

Eficiência aprimorada

O acesso aos modelos da família Granite e a um catálogo de modelos open source pré-otimizados ajuda a aprimorar a eficiência operacional e implantação da IA. Esses modelos exigem menos recursos computacionais para aplicar ajustes e oferecem inferência mais rápida, ajudando a reduzir a dependência de hardware e minimizar os custos.

Facilidade e acessibilidade

As ferramentas de IA para todas as funções (desenvolvedores, cientistas de dados e engenheiros de IA) aceleram o desenvolvimento e personalização de modelos. O Red Hat AI torna a IA empresarial acessível em toda a organização, simplificando a configuração do ambiente e otimizando a alocação de hardware para treinamento e ajuste de modelos.

Flexibilidade na implantação

Com uma experiência consistente nos ambientes de nuvem híbrida, você tem a flexibilidade de escolher onde treinar, ajustar, implantar e executar seus modelos e aplicações de gen IA. Dessa forma, você pode cumprir as restrições de dados, proteger a privacidade e preservar a segurança enquanto controla os custos da infraestrutura de IA.

Use o portfólio do Red Hat AI para implementar uma variedade de casos de uso de IA e responder a desafios empresariais. A experiência de usuário consistente permite que os stakeholders, desenvolvedores de IA, cientistas de dados e equipes de operações de TI, desenvolvam e implantem soluções de IA com mais facilidade nos ambientes de nuvem híbrida.

Casos de uso empresariais comuns abordados pelo Red Hat AI

Operações empresariais orientadas por dados e IA

Para ajudar as organizações a tomar decisões empresariais mais informadas, os modelos de IA podem lidar com a enorme quantidade e abrangência dos dados coletados. Com insights mais completos, as equipes podem maximizar a receita, otimizar as operações, melhorar as experiências dos clientes e aprimorar a produtividade dos funcionários.

Mecanismos de recomendação

Os mecanismos de recomendação com IA avaliam as situações atuais em relação a dados históricos para identificar fatores comuns e oferecer orientação. Eles podem ser usados em muitos setores para oferecer sugestões de ação em tempo real.

A Clalit Health Services criou recentemente uma plataforma avançada de IA com base no Red Hat AI para processar dados médicos históricos e treinar um LLM para identificar pacientes em risco que precisam de cuidados preventivos e medicação. Em seguida, essa solução oferece recomendações de ações para o tratamento do paciente por meio de uma experiência semelhante à de um chatbot. A Clalit também usa essa plataforma para desenvolver algoritmos e processos de aprendizado a fim de identificar novas tendências, padrões de comportamento de pacientes e doenças e muito mais. 

Leia a história de sucesso

Fluxos de trabalho de IA self-service e automatizados

O desenvolvimento de aplicações e modelos de IA pode ser complicado. As operações de self-service e os pipelines de IA automatizados simplificam esse processo e aprimoram a segurança e a conformidade.

Os cientistas de dados do DenizBank queriam transformar o fluxo de trabalho de trabalho existente em um processo menos manual, usando uma abordagem mais padronizada. A Intertech, subsidiária de TI do banco. ofereceu um ambiente de desenvolvimento de modelos com padrões e pipelines automatizados para melhorar a produtividade e o time to market da identificação de empréstimos de clientes e detecção de fraudes. Como uma das principais melhorias, a Intertech adotou o Red Hat AI devido a seus recursos de self-service, além da capacidade de escalar model serving e melhorar a eficiência operacional. Os mais de 100 cientistas de dados do banco agora podem ser concentrar no desenvolvimento de modelos mais robustos e seguros, como nunca feito antes.

Leia a história de sucesso

Encaminhamento automatizado de tickets de serviço

Organizações de setores públicos e privados usam sistemas de tickets para atender cidadãos, clientes e funcionários. A avaliação com IA pode ajudá-las a encaminhar rapidamente os tickets recebidos para as equipes certas. Além disso, é possível processar alguns tickets automaticamente para acelerar a resolução e a satisfação do usuário.

A Agência de Governo Eletrônico e Sociedade da Informação e do Conhecimento (AGESIC) do Uruguai adotou o Red Hat AI para expandir, escalar e padronizar a IA em agências governamentais. Essa solução permite que a AGESIC desenvolva, treine e implante modelos com eficiência, promovendo uma colaboração mais estreita entre cientistas de dados, desenvolvedores e equipes de operações de TI. Por exemplo, a AGESIC criou e implantou uma série de modelos para classificar e encaminhar automaticamente 2.000 solicitações de cidadãos por mês para a equipe certa, reduzindo o tempo de encaminhamento de uma hora para segundos.

Leia o press release

Suporte ao cliente e criação de conteúdo

Um suporte ao cliente de qualidade é essencial para oferecer experiências de alto valor aos usuários. A IA pode ajudar as equipes de suporte a aprimorar a solução de problemas, resumir informações e tickets, além de criar conteúdo personalizado conforme a documentação existente.

Usamos o Red Hat AI em nossa própria organização para aumentar a eficiência e a escalabilidade dos nossos serviços de suporte técnico e atendimento ao cliente. A equipe de engenharia de experiência da Red Hat desenvolveu, testou e implantou quatro soluções com IA para simplificar o suporte da equipe de TI para os clientes e colaboradores desse setor. Essas ferramentas aprimoram o self-service, aumentam a eficiência e aceleram as respostas aos tickets de suporte. Por exemplo, aumentamos a disponibilidade de conteúdo de conhecimento e minimizamos tarefas repetitivas para os colaboradores de suporte de TI que lidam com 30 mil novos casos por mês. E nossas iniciativas com IA demonstraram o potencial econômico dessas soluções: economizamos cerca de US$ 1,5 milhão em custos de suporte em apenas 10 meses, com uma economia projetada de mais de US$ 5 milhões no total.

Leia a história de sucesso

Assistentes virtuais e chatbots

Os chatbots e assistentes de IA continuam a apresentar melhorias na qualidade e precisão das respostas. Muitas vezes, eles servem como ponto de interação para soluções de IA avançadas e podem ser aplicados em diversos setores em um grande número de casos de uso, como atendimento ao cliente, fornecimento de informações e criação de conteúdo.

A cidade de Viena queria aumentar a produtividade e a satisfação dos funcionários. Para isso, desenvolveu um assistente virtual para os ajudar nas tarefas diárias, disponibilizando respostas instantâneas para perguntas sobre o trabalho e ajudando-os a responder às dúvidas e solicitações dos cidadãos com mais precisão. O OpenShift AI no Red Hat OpenShift permite que a cidade acelere a inovação e ofereça novos serviços e funcionalidades para o público, além de manter lançamentos frequentes.

Leia a história de sucesso

Desenvolva soluções de IA para suas necessidades.

Agregue valor à IA com os recursos que você tem, os insights que possui e a liberdade que precisa. O Red Hat AI acelera o time to market e reduz o custo operacional da entrega das soluções de IA no seu ambiente de nuvem híbrida. Use seus dados empresariais para ajustar com eficiência pequenos modelos especializados e implantá-los com flexibilidade onde quer que os dados estejam. Gerencie e monitore os ciclos de vida dos modelos de IA em grande escala e concentre-se em inovar com a IA para alcançar suas metas empresariais.

Mais informações sobre o portfólio do Red Hat AI

Descubra informações sobre a solução, as principais funcionalidades e benefícios e acesse testes e sandboxes de desenvolvedor gratuitos no Red Hat Enterprise Linux AI e no Red Hat OpenShift AI.

Mais informações

Descubra recursos e conhecimentos sobre a IA para toda a sua organização

Ganhe habilidades em IA com recursos hands-on para profissionais ou fortaleça sua tomada de decisões com recursos de conhecimento de IA. Oferecemos demos, guias e estudos de caso para você saber por onde começar.

Desenvolva suas habilidades