O que é IA soberana?

Com a IA soberana, você não precisa alugar uma IA: ela é sua. Você tem a propriedade da tecnologia, os dados são mantidos no local, e os sistemas de IA refletem seus valores e requisitos legais. 

A IA soberana é uma implementação de soberania digital que visa descentralizar os recursos de IA, eliminando a dependência de fornecedores externos. Com modelos open source e infraestrutura local, a IA soberana é um framework que trata a IA como um serviço proprietário, controlado localmente.

Na prática, IA soberana significa ter infraestruturas físicas e de dados próprias, sem depender de terceiros para operá-las. Isso inclui aceleradores de IA como as unidades de processamento gráfico (GPUs), Large Language Models (LLMs) e servidores de inferência, todos operados localmente. Assim, todo o ciclo de vida da IA, do treinamento à inferência, permanece em uma jurisdição específica. 

Conheça o Red Hat AI

Com a IA cada vez mais integrada ao nosso dia a dia e aos sistemas que usamos, as discussões sobre como a tecnologia opera e quem a controla se tornam mais relevantes. 

Talvez o maior incentivo para desenvolver um sistema de IA soberana seja eliminar os riscos. A IA soberana oferece a arquitetura necessária para manter dados importantes dentro de uma zona de segurança legal, na qual é você quem define as regras e controla os resultados. Confira outros motivos:

• Privacidade: O envio de dados para uma nuvem em outro país pode violar as leis de privacidade locais e resultar em vazamentos ou na coleta indevida de informações. Para evitar isso, alguns governos exigem que a IA processe os dados dentro de suas fronteiras. A IA soberana mantém os dados no local, protegendo a privacidade.

• Independência tecnológica: com uma infraestrutura própria de IA soberana, a tecnologia continua funcionando mesmo quando há mudanças nos termos de serviço ou na dinâmica geopolítica. Isso pode ajudar os países a passarem de consumidores a criadores e até exportadores dessa tecnologia. 

• Crescimento econômico: com a IA soberana, é possível manter os empregos e o lucro dentro de uma determinada região. Quando um país tem modelos e "fábricas de IA" (ou data centers), o dinheiro investido em IA permanece na economia local.

• Segurança nacional: com o avanço da IA nos sistemas militares, os governos buscam garantir que sua segurança nacional não dependa de tecnologias estrangeiras. Países que desenvolvem sistemas de IA soberana podem acessar dados com mais segurança e privacidade, sem comprometer a segurança nacional.

• Identidade cultural: empresas dos EUA estão desenvolvendo alguns dos modelos de IA mais usados. Eles são treinados com conteúdos e valores ocidentais, o que pode criar vieses e mal-entendidos em outras culturas. A IA soberana permite que os países usem dados de treinamento que refletem idiomas, cultura e contextos locais. 

Leia o e-book: Um blueprint para a IA soberana

Não existe um checklist definitivo para desenvolver e manter a IA soberana. Na verdade, ela é um sistema dinâmico que inclui muitas variáveis. Isso exige controle e compreensão do processo completo, da experimentação à produção. Pense nas partes de um sistema de IA soberana como um bolo em camadas, em que cada camada reforça a autossuficiência ou a soberania do sistema. Conhecidas como AI stack, essas camadas existem em um espectro e analisam:

• Hardware: os chips e data centers pertencem a quem?

• Dados: quem possui e fornece os dados usados para treinar e refinar a IA?

• Modelos: a quem pertencem os algoritmos usados pela IA?

• Aplicações: quem cria e tem acesso à interface de usuário e aos dados coletados nela?

• Energia (camada bônus): o país ou a organização consegue alimentar a própria IA?

   

Ao desenvolver um sistema de IA soberana, você também precisa fazer perguntas como:

• Quem desenvolverá os modelos?
• Com quais dados os modelos serão treinados?
• Quais são os sistemas de valores dos modelos?
• Quais são os idiomas e dialetos usados por eles?
• Quem é responsável quando algo dá errado?

Ao decidir desenvolver um sistema soberano, você precisará primeiro da infraestrutura, as chamadas fábricas de IA (data centers). Esses data centers precisam processar, analisar e gerar uma grande quantidade de dados com muita rapidez.

Com um software de otimização como o vLLM e o llm-d, as consultas dos usuários e os fluxos de dados em tempo real são processados localmente, sem passar por uma interface de programação de aplicações (API) pública. Isso otimiza o uso de memória da GPU por meio do PagedAttention e permite compartilhar modelos fundamentais robustos com várias GPUs menores. Chamado de inferência distribuída, esse processo torna viável financeira e tecnicamente hospedar a IA generativa (gen AI) de alto desempenho na infraestrutura existente da empresa. Isso elimina a necessidade de contratar APIs de nuvem caras e não soberanas.

Em seguida, vem a mão de obra. Você precisará de uma equipe dedicada para definir regras, criar sistemas e auditar os resultados, com engenheiros, cientistas de dados, consultores jurídicos e pesquisadores. Você também precisará colaborar com funcionários do governo para definir um framework regulatório. Isso envolve criar diretrizes para o desenvolvimento e a implantação da IA, adotando práticas recomendadas de explicabilidade, transparência, proteção de dados e cibersegurança. 

Ainda que soberania seja o objetivo final, você vai precisar de ajuda no começo. Considere trabalhar com entidades de outros países para reunir recursos e expertise. Essas parcerias ajudam a definir padrões globais para o uso da IA e facilitam o fluxo de dados entre países. 

O que é inferência confidencial? 

É a tecnologia que torna a soberania viável. Com ela, os países e organizações têm a certeza de que seus dados estão seguros. 

A inferência confidencial oferece segurança no hardware, criptografando os dados conforme são analisados pela IA. Isso mantém a privacidade e impede que o provedor de nuvem acesse os dados, que permanecem criptografados (ilegíveis) enquanto são transmitidos pela rede e quando chegam ao servidor. 

Ao chegarem na unidade central de processamento (CPU) ou na GPU, os dados são temporariamente descriptografados. Ainda assim, permanecem privados, porque ficam em uma parte física do hardware (CPU ou GPU) chamada de ambiente de execução confiável (TEE). Essa seção do chip isola um pedaço do circuito, tornando-o inacessível para o restante do computador. É, basicamente, um escudo físico de privacidade.

Durante a fase de inferência, os dados são descriptografados, mas continuam protegidos. Em seguida, são criptografados para se mover pelo servidor de nuvem e descriptografados quando chegam ao seu dispositivo.

Para se livrar da dependência de infraestruturas externas e alcançar a soberania, é preciso controlar quatro componentes principais do stack de IA:

• Soberania de dados: é manter o controle sobre como os dados são coletados, classificados, processados e armazenados para atender às regulamentações vigentes. Dados confidenciais devem ser armazenados no perímetro de soberania, estando sujeitos apenas às leis locais. 

  No contexto da IA, a soberania de dados afeta o treinamento, a inferência e os pesos do modelo. Nesse caso, os dados usados para treinar a IA são seus. Quando um usuário faz uma pergunta, os dados são processados localmente, em vez de ir para um data center externo. Por fim, a soberania de dados permite controlar e personalizar o manual de instruções que decide como a IA "pensa".

• Soberania técnica: é ser proprietário da arquitetura do stack de IA e ser capaz de validá-la. A IA não é apenas um software, mas uma receita com vários ingredientes. Ao desenvolver um stack de IA, você usa ingredientes de diferentes fornecedores. A soberania técnica exige uma cadeia de custódia transparente para cada componente do sistema de IA. Esse conceito é conhecido como lista de materiais de software (SBOM) ou lista de materiais de IA (AIBOM). A lista atua como um inventário completo das tecnologias que você usa e ajuda a auditar o sistema para garantir a integridade dele. 

  Considere o seguinte: a gestão da contabilidade da sua empresa é terceirizada. Você entrega seus registros financeiros a uma firma externa da sua confiança. Em um determinado ano, sua empresa passa por uma auditoria. Você descobre que o contador não guardou nenhum recibo, e os cálculos não fecham. 

  A soberania técnica é a decisão de gerenciar a contabilidade internamente. Você usa um software próprio no seu computador e anexa um recibo digital a cada entrada. Quando o auditor chega, basta entregar uma pasta contendo todos os recibos e registros de cada pessoa que mexeu nos arquivos com carimbos de data/hora. 

• Soberania operacional: é quem administra o sistema. Ela exige controle administrativo total, profissionais locais capacitados e uma defesa do tipo "kill-switch". Assim, você não precisa se preocupar com a possibilidade de agentes externos desativarem ou alterarem as configurações da IA remotamente. Soberania operacional é operar sua tecnologia com independência. 

  Por exemplo: um banco na Índia usa um sistema de IA localizado nos Estados Unidos. O sistema lança uma atualização de software que cria desvios na forma como a IA opera e processa dados. Os usuários começam a ter problemas, e os clientes não conseguem mais acessar suas contas. Em vez de chamar engenheiros locais para corrigir o problema, o banco precisa ligar para o atendimento ao cliente para receber assistência operacional. 

• Soberania de confiabilidade: é o processo de verificar e garantir a integridade, a segurança e a confiabilidade dos sistemas e processos digitais de maneira independente. Ou seja, assegurar que a IA faz o que promete. A soberania de garantia prioriza auditorias contínuas do sistema e a validação independente, com base em métricas próprias, não nas definidas pelo fabricante ou fornecedor.

  Sem ela, você pode acabar operando um sistema que alucina ou que não se comporta como esperado. Com ela, você assegura que a lógica dos sistemas atenda aos seus padrões e expectativas. Quando o sistema apresenta um comportamento inadequado, você pode analisá-lo para diagnosticar o problema. 

  A soberania de confiabilidade também permite produzir evidências do comportamento da sua IA prontas para auditoria, o que é importante para fins regulatórios. Ferramentas open source como o Feast extraem dados de diferentes origens, os consolidam em um sistema organizado e geram recibos. Desse modo, se uma agência reguladora perguntar por que a IA negou um empréstimo, você pode informar a versão exata dos dados usados para tomar essa decisão.
  
  Leia mais sobre o Feast

O open source oferece os modelos e as ferramentas necessários para criar uma IA soberana. Sem os modelos open source, poucas empresas teriam recursos financeiros para desenvolver a IA. Todas as outras seriam forçadas a alugar a tecnologia, em vez de desenvolver uma própria. 

Isso porque um dos maiores obstáculos para criar uma IA soberana é o custo de treinar os modelos e sistemas do zero. Com o software e modelos open source robustos, empresas e países podem usar um modelo fundamental e ajustá-lo com dados próprios para atender a necessidades específicas. Eles também podem reduzir os custos usando bibliotecas de código open source, como o vLLM. 

A IA soberana garante o direito de controlar seus sistemas de IA. A XAI é a capacidade de exercer esse direito. Não há soberania (nem poder) sobre uma máquina sem entender como ela funciona ou por que gera seus resultados. Sem a explicabilidade, a IA soberana é apenas uma caixa preta que pode esconder vieses.

Mais informações sobre a IA explicável (XAI)

A IA está deixando de ser uma ferramenta que responde perguntas e se tornando um sistema que entende contextos. Com isso, as organizações precisam criar camadas semânticas e gateways de Model Context Protocol (MCP) que permitam a um agente de IA navegar com segurança por todo o acervo de dados da empresa. 

Se você dá à IA acesso às informações para oferecer contexto, faz sentido manter esses dados protegidos, especialmente se forem confidenciais. 

Para operar agentes de IA em um sistema de IA soberana, o treinamento, a certificação, os grafos de conhecimento e os sistemas de backend precisam estar fisicamente localizados na mesma jurisdição em que os agentes atuam. Assim, ela pode ser treinada e ter acesso ao conhecimento potencialmente sensível específico para seu caso de uso. Além disso, a proximidade reduz a latência (atraso).

Considere um agente de IA especializado em leis alemãs que ajuda a tomar decisões políticas. Alguns problemas podem acontecer se não houver sistemas de IA soberana em vigor:

• Ao usar conjuntos de dados treinados com dados globais ou sistemas jurídicos dos EUA, existe o risco de criar vieses ou resultados imprecisos para o contexto alemão.
• Quando os agentes residem em uma nuvem estrangeira, em vez de em uma nuvem soberana, o provedor tem acesso aos dados, memória e lógica, podendo se aproveitar dessa conexão.
• Em caso de erro do agente, entidades locais e internacionais podem discordar da legislação aplicável.
• Em uma disputa internacional, o agente pode ser encerrado porque o provedor estrangeiro revogou a chave de API. 

Conheça os casos de uso da IA agêntica

Com a IA soberana, os agentes são tratados segundo os limites da sua jurisdição. Nesse exemplo, o agente alemão que considera a legislação alemã tem acesso aos dados de arquivos nos servidores do país. Ele entende as nuances da cultura alemã e tem acesso ao treinamento e certificação necessários para a graduação em direito alemão. Além disso, ele usa um gráfico de conhecimento de decisões judiciais do país localizado na Alemanha. 

Sem as práticas de IA soberana, os políticos alemães podem usar uma IA que recebe e envia dados entre a Alemanha e outros países. Os grafos de conhecimento usados podem incluir informações jurídicas do mundo todo. Talvez não haja acesso a decisões judiciais alemãs que ajudariam a elaborar um caso. O treinamento cultural do agente pode ser diferente do que os legisladores alemães esperam dos sistemas legais e políticas. 

Mais informações sobre agentes de IA

AgentOps e IA soberana

O AgentOps é um elemento essencial para implementar práticas de IA soberana em fluxos de trabalho agênticos. O AgentOps oferece registros verificáveis de decisões, fluxos de dados e interações com as ferramentas, permitindo entender como o sistema funciona. Ele oferece transparência ao: 

• Acompanhar o consumo de recursos de hardware.
• Monitorar as taxas de alucinação.
• Assegurar a criptografia dos dados.
• Fornecer registros auditáveis das operações dos agentes.
• Encerrar o processo em caso de violações de política.

Mais informações sobre o AgentOps

A adoção generalizada da IA soberana pode criar uma rede de ecossistemas de IA especializados e localizados, trazendo os seguintes benefícios:

• Segurança e proteção de dados: a IA soberana é ainda mais importante para setores altamente regulamentados, como os de saúde, financeiro e governamental. Ela reforça a cibersegurança e protege dados proprietários e propriedades intelectuais. Além disso, ela viabiliza uma cadeia de suprimentos de software auditável. Ferramentas como o vLLM e o llm-d permitem verificar cada parte do software antes que ele acesse dados confidenciais. Assim, a segurança deixa de ser uma defesa passiva e passa a ser uma verificação ativa.

• Independência de provedores de IA estrangeiros: Desenvolver e usar sistemas de IA próprios permite que governos e organizações mantenham o controle e continuem operando mesmo diante de fatores externos adversos. Por exemplo, guerras comerciais, mudanças regulatórias, conflitos geopolíticos ou quedas de energia.

• Vantagem competitiva: com o controle da infraestrutura e dos modelos de IA, as organizações podem ajustar os sistemas e personalizar os resultados para que a IA se comporte segundo o contexto cultural e as demandas empresariais específicas. 

• Maior confiança do usuário: os usuários e clientes se sentem mais seguros sabendo que os dados não sairão do país.

• Sustentabilidade e controle de recursos: quando a organização controla como e onde as cargas de trabalho são executadas, pode decidir como operá-las. Por exemplo, usar fontes de energia renováveis para alinhar as operações aos compromissos ambientais locais. A IA soberana leva organizações e países da dependência à autonomia. 

A IA soberana é um caminho estratégico que exige investimentos em longo prazo. Ao operar um stack soberano personalizado, você troca a conveniência pela responsabilidade. E essa transição pode ter vários desafios:

• Ambiguidade jurídica: diferentes jurisdições têm leis distintas. As organizações precisarão conciliar estruturas legais conflitantes para decidir como a IA deve operar. Isso pode exigir aconselhamento jurídico.

• Mudanças lentas: as agências reguladoras e de conformidade são conhecidas por seus processos demorados. É provável que as decisões não sejam tomadas rapidamente, por isso, os projetos precisam ser gerenciados com estratégia.

• Custos: além de pagar pela capacidade de computação e infraestrutura para processar a IA, as organizações precisarão encontrar experts talentosos para implementar as soluções técnicas desejadas. Também precisarão investir em pesquisa e desenvolvimento para criar serviços que beneficiem e atendam aos usuários. 

• Complexidade técnica: criar um stack de IA soberana, normalmente exige mudanças na infraestrutura de TI como um todo. Por exemplo, criar novos códigos e migrar os dados existentes. Gerenciar isso por conta própria é mais difícil do que usar uma opção pronta, como o Modelo como serviço (MaaS).

As estratégias para implementar a IA soberana variam de acordo com os recursos disponíveis. Descubra como diferentes países estão adotando essa tecnologia:

• Soberania abrangente como padrão: atualmente, a China é o melhor exemplo de IA soberana quase total. O governo chinês controla dados por meio de leis rígidas e acesso às informações do setor privado, opera um ecossistema de aplicações inteiramente nacional e desenvolve seus modelos em laboratórios próprios. O país investe no desenvolvimento local de chips, mas ainda não é totalmente independente em termos de hardware. Com o Grande Firewall, um sistema estatal de vigilância da internet, a China chegou mais perto da soberania digital do que qualquer outro país. 

• Predominância do setor privado: nos EUA, empresas privadas criaram sistemas de IA dominantes com pouca ajuda direta do governo. A Microsoft, Google, OpenAI e Anthropic comandam o desenvolvimento global da IA, exercendo uma forma de soberania. 

• Soberania regulatória: a abordagem de soberania da União Europeia prioriza a governança, e não a infraestrutura. A Lei sobre IA da UE classifica a IA de acordo com o risco e define os padrões que os sistemas devem seguir para operar na União Europeia. Em vez de tentar alcançar os orçamentos de infraestrutura e computação da China e dos EUA, a União Europeia investe em projetos locais, como o Mistral, e estabelece regulamentações claras para orientar o setor.

• Soberania simplificada: países menores aceitam a dependência dos modelos fundamentais estrangeiros, dedicando tempo e investimentos para fazer o ajuste fino para idiomas locais, desenvolver frameworks de governança regionais e manter os dados internamente. Ou seja, investem em pesquisadores locais, sem tentar criar uma versão própria do ChatGPT da OpenAI. Por exemplo, o projeto SEA-LION de Singapura reúne talentos locais para desenvolver LLMs voltados para as comunidades do sudeste asiático. 

Às vezes, os dois termos são usados de forma intercambiável e confusa. Conheça as diferenças.

A IA soberana refere-se a soluções, stack de tecnologia e ferramentas que permitem a um país ou entidade implantar sistemas de IA personalizados. É o poder de decidir como a IA vai operar. Ela envolve a capacidade, os recursos e os meios. 

A soberania da IA é um conceito mais filosófico que questiona quem tem o poder de determinar as políticas da IA. Ela visa garantir que cidadãos e comunidades diversos opinem sobre como a IA afeta suas vidas e futuros. A soberania da IA vai além do uso da tecnologia, incluindo discussões sobre direitos humanos, democracia, consentimento, valores e preservação cultural. 

Por exemplo: um país pode adotar a IA soberana de modo que prejudique a soberania da IA dos cidadãos. Ele pode ter ferramentas de IA sofisticadas e totalmente independentes, mas não as usar de forma justa ou imparcial para com os cidadãos. 

A IA soberana e a soberania da IA também têm pontos em comum. Para criar um sistema de IA soberana, é preciso pensar sobre valores e poder, responsabilização e representação, que são aspectos da soberania da IA.

O monopólio da IA descreve um cenário em que poucos hiperscalers controlam a oferta global de inteligência, incluindo a infraestrutura, o acesso aos dados brutos e as tecnologias que causam impacto direto na vida das pessoas. Com isso, países que não possuem a tecnologia acabam dependendo de potências estrangeiras, o que pode alimentar conflitos geopolíticos. A IA soberana é um esforço para impedir que isso aconteça. 

Modelo como serviço (MaaS) é a prática de pagar para ter acesso a um modelo, como o ChatGPT. No MaaS, o provedor pode alterar o modelo ou interromper seu acesso como bem quiser. Com a IA soberana, você não depende mais dos serviços de terceiros, já que possui seus próprios serviços. 

É importante conhecer o espectro da IA soberana para saber onde você está agora e aonde quer chegar:

• Zero soberania: a maioria das empresas começam desse ponto, usando MaaS. Você usa um modelo sem entendê-lo por completo e envia dados para processamento em outros países. Nesse cenário, você é apenas um contratante. Se o provedor desativar o serviço, sua IA desaparecerá.

• Soberania parcial: é o meio-termo, em que você usa modelos open source hospedados em uma infraestrutura regional. O código é seu, e você sabe aplicar o conhecimento aos modelos. Nesse cenário, é provável que você use chips da NVIDIA ou provedores de nuvem localizados em outros países. Ou seja, você depende de hardware externo.

• Soberania total: a IA é desenvolvida em um ambiente nacional e hardware próprio. Ela é treinada com dados locais e usa fontes de energia regionais. 

Leia mais sobre o MaaS

O conceito de IA soberana considera se um país pode controlar a IA, que cada vez mais influencia sua sociedade. É a peça central de um quebra-cabeça maior que contém outros tipos de soberania, como a soberania digital e a soberania técnica:

A soberania digital considera as regras, direitos e jurisdição do espaço digital.

A soberania técnica define quem possui e controla a infraestrutura e a tecnologia subjacentes.

A IA soberana combina as duas para criar sistemas regidos pelas suas regras, desenvolvidos na sua infraestrutura, treinados com seus dados e alinhados aos seus valores. 

A maioria dos países opera no campo da soberania digital ou da soberania técnica. Apesar da busca por criar uma IA soberana, alcançar essa realidade requer maior desenvolvimento das políticas relacionadas à tecnologia. 

Nos próximos anos, os sistemas de IA com ancoragem regional ou nacional devem se multiplicar. Por exemplo, a Lei sobre IA da UE e investimentos em modelos como o Mistral evidenciam que a Europa busca uma identidade para a IA diferente da que os EUA e a China oferecem. 

O Red Hat® AI foi criado para oferecer inferências rápidas, flexíveis e eficientes por meio de um servidor com tecnologia vLLM. Ele conecta modelos aos seus dados de maneira confiável para unificar a personalização e o desenvolvimento de agentes especializados em uma plataforma. Desenvolvidas sobre uma base open source, nossas soluções oferecem controle total sobre fluxos de trabalho de IA , de ponta a ponta, em qualquer escala. 

A Red Hat oferece a base para a IA soberana ao ajudar organizações a construir fábricas de IA air-gapped (isoladas), com controle total sobre segurança, dados, modelos e resultados.

O diferencial do nosso ecossistema está na transparência. Nenhum fornecedor consegue resolver sozinho os desafios da IA soberana. Ao unificar diversas nuvens e hardware, a Red Hat ajuda você a atender às regulamentações regionais e evitar a dependência de fornecedor. 

Com foco em transparência, contribuição upstream e padrões abertos, a abordagem da Red Hat permite a verificação independente de todo o stack de tecnologia.