RAG e ajuste fino

O objetivo daRAG e do ajuste fino é aprimorar os Large Language Models (LLMs). A RAG faz isso sem modificar o LLM subjacente, enquanto o ajuste fino requer que os pesos e parâmetros do LLM sejam alterados. Com frequência, você pode personalizar um modelo usando tanto o ajuste fino quanto a arquitetura de RAG.

Conheça o Red Hat AI

Um LLM é um tipo de modelo de inteligência artificial (IA) que usa técnicas de machine learning (aprendizado de máquina) para entender e produzir linguagem humana. Entre outras habilidades, esses modelos de machine learning geram, resumem, traduzem, reescrevem, classificam, categorizam e analisam textos. O uso mais conhecido dos LLMs de nível empresarial é a criação de um sistema de resposta a perguntas, como um chatbot.

Os modelos fundamentais de LLMs são treinados com conhecimento geral para oferecer suporte a uma ampla variedade de casos de uso. No entanto, eles provavelmente não estão equipados com o conhecimento proprietário da sua organização. A RAG e o ajuste fino são duas maneiras de ajustar e alimentar o LLM com os dados que você deseja para que ele produza um resultado específico.

Por exemplo, digamos que você esteja criando um chatbot para interagir com clientes. Nesse cenário, o chatbot é um representante da sua empresa, então você quer que ele aja como um funcionário de alto desempenho. Você precisa que o chatbot entenda as nuances da sua empresa, como as soluções que você vende e as políticas que adota. Assim como você treinaria um funcionário fornecendo documentos para ele estudar e scripts para seguir, um chatbot é treinado com RAG e ajuste fino para desenvolver a base de conhecimento dele. 

Assista: RAG vs. fine-tuning

A RAG complementa os dados de um LLM ao recuperar informações de fontes à sua escolha, como repositórios de dados, coleções de texto e documentações pré-existentes. Depois de recuperar os dados, as arquiteturas de RAG os processam no contexto de um LLM e geram uma resposta com base na combinação dessas fontes.

A maior utilidade da RAG é complementar seu modelo com informações atualizadas regularmente. Ao fornecer ao LLM uma linha de comunicação com as fontes externas selecionadas, o resultado será mais preciso. E como você pode projetar a RAG para citar a fonte, é fácil rastrear como um resultado é formulado, o que gera mais transparência e confiança.

Voltando ao nosso exemplo: se você fosse criar um chatbot que respondesse a perguntas como “Qual é a sua política de devolução?”, poderia usar uma arquitetura de RAG. Você poderia conectar seu LLM a um documento que detalha a política de devolução da sua empresa e direcionar o chatbot para extrair informações dele. Poderia até instruir o chatbot a citar a fonte e fornecer um link contendo mais detalhes. E se o seu documento de política de devolução mudasse, o modelo da RAG extrairia as informações mais recentes e as forneceria ao usuário.

Mais informações sobre RAG

Casos de uso de RAG

A RAG pode coletar e organizar informações de uma maneira que simplifique a interação das pessoas com os dados. Com uma arquitetura de RAG, os modelos podem obter insights e fornecer um LLM com contexto de fontes de dados on-premise e baseadas em nuvem. Isso significa que dados externos, documentos internos e, até mesmo, feeds de redes sociais podem ser usados para responder perguntas, fornecer contexto e informar uma tomada de decisão.

Por exemplo, você pode criar uma arquitetura de RAG que, quando consultada, forneça respostas específicas sobre políticas, procedimentos e documentações da empresa. Isso economiza um tempo que, de outra forma, seria gasto procurando e interpretando um documento manualmente.

Descubra como a RAG é usada na engenharia de software

Pense no ajuste fino como uma maneira de comunicar uma intenção ao LLM para que o modelo adapte os resultados de acordo com os seus objetivos. O ajuste fino é o processo de incrementar um modelo pré-treinado com um conjunto de dados menor e mais direcionado para que ele possa executar tarefas específicas com mais eficiência. Esses dados de treinamento extras são incorporados à arquitetura do modelo.

LoRA e QLoRA são técnicas de ajuste fino de parâmetros eficientes (PEFT) que ajudam os usuários a otimizar custos e recursos de computação. 

Vamos voltar ao nosso exemplo do chatbot. Digamos que você queira que seu chatbot interaja com pacientes em um contexto médico. É importante que o modelo conheça a terminologia médica relacionada ao seu trabalho. Usando técnicas de ajuste fino, você garante que quando um paciente perguntar ao chatbot sobre "serviços de fisio", ele entenderá isso como "serviços de fisioterapia" e direcionará o usuário para os recursos certos.

Casos de uso do ajuste fino

A maior utilidade do ajuste fino é treinar seu modelo para interpretar as informações às quais ele tem acesso. Por exemplo, você pode treinar um modelo para compreender as nuances e terminologias específicas do seu setor, como siglas e valores organizacionais.

O ajuste fino também é útil em tarefas de classificação de imagens. Por exemplo, se você trabalhar com ressonância magnética (RM), poderá usar o ajuste fino para treinar seu modelo de IA preditiva para identificar anomalias.

Conheça casos de uso de IA preditiva

O ajuste fino também pode ajudar sua organização a aplicar o tom certo ao se comunicar com as pessoas, especialmente em um contexto de atendimento ao cliente. Esse recurso permite que você treine um chatbot para analisar o sentimento ou emoção da pessoa com quem ele está interagindo. Além disso, você pode treinar seu modelo de IA generativa para responder de uma forma que atenda ao usuário e, ao mesmo tempo, esteja alinhada aos valores da sua organização.

Conheça casos de uso da IA generativa

Compreender as diferenças entre RAG e ajuste fino pode ajudar você a tomar decisões estratégicas sobre qual recurso de IA implantar para atender às suas necessidades. Confira algumas questões básicas que precisam ser analisadas:

Quais são as habilidades da sua equipe?

Personalizar um modelo com RAG requer habilidades de programação e arquitetura. Em comparação com os métodos tradicionais de ajuste fino, a RAG oferece uma maneira mais simples e acessível de coletar feedback, solucionar problemas e corrigir aplicações. O ajuste fino de um modelo requer experiência com PLN (Processamento de Linguagem Natural), deep learning, configuração de modelo, reprocessamento de dados e avaliação. No geral, é um processo mais técnico e demorado.

Seus dados são estáticos ou dinâmicos?

O ajuste fino ensina um modelo a aprender padrões que não mudam com o tempo. Como ele se baseia em snapshots estáticos de conjuntos de dados de treinamento, as informações do modelo podem ficar desatualizadas e exigir um novo treinamento. Por outro lado, a RAG direciona o LLM a recuperar informações específicas em tempo real nas fontes que você escolher. Isso significa que seu modelo extrai os dados mais atualizados para informar sua aplicação, promovendo resultados precisos e relevantes.

Qual é o seu orçamento?

A RAG costuma ter um custo-benefício maior do que o ajuste fino. Para implementar uma arquitetura de RAG, você desenvolve sistemas de pipeline para conectar seus dados ao seu LLM. Essa abordagem economiza custos porque usa dados existentes para informar seu LLM. Isso contrasta com os recursos significativos exigidos pelo ajuste fino para realizar rotulagem especializada de dados, além de usar uma potência computacional intensiva necessária para o treinamento repetido de modelos.

Embora o ajuste fino seja historicamente considerado a opção mais cara, desenvolvimentos como o vLLM estão ajudando a preencher a lacuna orçamentária. O vLLM é um servidor e mecanismo de inferência que melhora a eficiência de custos do serviço de modelos ajustados. 

Mais informações sobre o vLLM

As soluções open source e o ecossistema de parceiros de IA da Red Hat ajudam você a implementar a RAG e o ajuste fino no seu processo de Large Language Model Operations (LLMOps).

O Red Hat® Enterprise Linux® AI é uma plataforma para executar LLMs em ambientes de servidores individuais. A solução inclui o Red Hat AI Inference Server, que oferece inferências rápidas e econômicas na nuvem híbrida, maximizando a taxa de transferência e minimizando a latência.

O Red Hat Enterprise Linux AI também conta com os benefícios de uma subscrição da Red Hat, que inclui distribuição confiável de soluções empresariais, suporte à produção em tempo integral, suporte estendido ao ciclo de vida do modelo e as proteções legais do Open Source Assurance.

Escale suas aplicações com o Red Hat OpenShift AI

Depois de treinar seu modelo com o Red Hat Enterprise Linux AI, você poderá escalá-lo para produção usando o Red Hat OpenShift® AI.

O Red Hat OpenShift AI é uma plataforma de operações de machine learning (MLOps) flexível e escalável, com ferramentas para ajudar você a criar, implantar e gerenciar aplicações com IA. Ele fornece a infraestrutura de carga de trabalho subjacente, como um LLM para criar embeddings, (mecanismos de recuperação necessários para produzir resultados) e acesso a um banco de dados vetorial.