O que é IA soberana?

Com a IA soberana, você não precisa alugar uma IA: ela é sua. Você tem a propriedade da tecnologia, os dados são mantidos no local, e os sistemas de IA refletem seus valores e requisitos legais. 

É uma implementação de soberania digital que visa descentralizar os recursos de IA, eliminando a dependência de fornecedores externos. Usando modelos open source e uma infraestrutura local, a IA soberana é o framework para um serviço proprietário com operação local.

Na verdade, a IA soberana é caracterizada por infraestruturas física e de dados que são operadas de maneira independente. Isso inclui aceleradores de IA, como unidades de processamento gráfico (GPU), Large Language Models (LLM) e os servidores de inferência que os hospedam no local. Assim, todo o ciclo de vida da IA, do treinamento à inferência, permanece em uma jurisdição específica. 

Conheça o Red Hat AI

Com a IA cada vez mais incorporada ao nosso dia a dia e aos sistemas que usamos, as discussões sobre como a tecnologia opera e quem a controla se tornam mais relevantes. 

Talvez o maior incentivo para desenvolver um sistema de IA soberana seja eliminar os riscos. A IA soberana oferece a arquitetura necessária para manter dados importantes dentro de uma zona de segurança legal, onde você define as regras e controla os resultados. Confira outros motivos:

• Privacidade: enviar dados para uma nuvem em outro país pode violar leis de privacidade locais e resultar em vazamentos ou coletas de informações. Para evitar isso, alguns governos exigem que a IA processe os dados dentro de suas fronteiras. A IA soberana mantém os dados no local, protegendo a privacidade.

• Independência tecnológica: com uma infraestrutura própria de IA soberana, a tecnologia continua funcionando mesmo quando há mudanças nos termos de serviço ou questões geopolíticas. Os países deixam de ser consumidores para se tornar criadores ou até mesmo exportadores. 

• Crescimento econômico: com a IA soberana, é possível manter os empregos e o lucro dentro de determinada região. Quando um país tem modelos e "fábricas de IA" (ou data centers), o dinheiro gasto em IA permanece na economia local.

• Segurança nacional: como os sistemas militares usam cada vez mais a IA, os governos querem garantir que a segurança nacional não dependa de tecnologias estrangeiras. Os países que desenvolvem sistemas de IA soberana acessam os dados com mais proteção e privacidade, sem comprometer a segurança nacional.

• Identidade cultural: empresas dos EUA estão desenvolvendo alguns dos modelos de IA mais usados. Eles são treinados com conteúdos e valores ocidentais, o que pode criar vieses e mal-entendidos em outras culturas. A IA soberana permite que os países usem dados de treinamento que refletem idiomas, cultura e contextos locais. 

Para desenvolver e manter a IA soberana, não existe um checklist fixo. Na verdade, é um sistema dinâmico que inclui muitas partes variáveis. É preciso controlar e entender todas as partes envolvidas, da experimentação à produção. As partes da IA soberana são como um bolo em camadas, em que cada camada reforça a autossuficiência ou a soberania do sistema. Chamadas de stack de IA, as camadas representam um espectro e analisam estes pontos:

• Hardware: os chips e data centers pertencem a quem?

• Dados: quem possui e fornece os dados usados para treinar e refinar a IA?

• Modelos: a quem pertencem os algoritmos usados pela IA?

• Aplicações: quem cria e tem acesso à interface de usuário e aos dados coletados nela?

• Energia (camada bônus): o país ou a organização consegue alimentar a própria IA?

   

Ao desenvolver um sistema de IA soberana, faça também estas perguntas:

• Quem desenvolverá os modelos?
• Com quais dados os modelos serão treinados?
• Quais são os sistemas de valores dos modelos?
• Quais são os idiomas e dialetos usados neles?
• Quem é responsável quando algo dá errado?

Ao decidir desenvolver um sistema soberano, você precisará primeiro da infraestrutura, as chamadas fábricas de IA. Esses data centers precisam processar, analisar e gerar uma grande quantidade de dados com muita rapidez.

Usando um software de otimização como vLLM e llm-d, as consultas dos usuários e os fluxos de dados em tempo real são processados localmente, sem passar por uma interface de programação de aplicações (API) pública. Isso otimiza o uso de memória da GPU por meio do PagedAttention e permite compartilhar modelos fundamentais massivos com várias GPUs menores. Chamado de inferência distribuída, esse processo torna viável financeira e tecnicamente hospedar a IA generativa (gen AI) de alto desempenho na infraestrutura existente da empresa. Isso elimina a necessidade de contratar APIs de nuvem caras e não soberanas.

Em seguida, vem a mão de obra. Você precisará de uma equipe dedicada para definir regras, criar sistemas e auditar os resultados, com engenheiros, cientistas de dados, consultores jurídicos e pesquisadores. Você também precisará colaborar com funcionários do governo para definir um framework regulatório. Isso envolve criar diretrizes para o desenvolvimento e a implantação da IA, adotando práticas recomendadas de explicabilidade, transparência, proteção de dados e cibersegurança. 

O objetivo final é ter soberania, mas você provavelmente precisará de ajuda para começar. Considere trabalhar com entidades de outros países para reunir recursos e expertise. Essas parcerias também ajudam a definir padrões globais para o uso da IA e facilitam o fluxo de dados entre países. 

O que é inferência confidencial? 

É a tecnologia que torna a soberania viável. Com ela, os países e organizações têm a certeza de que seus dados estão seguros. 

A inferência confidencial oferece segurança no hardware, criptografando os dados conforme são analisados pela IA. Isso mantém a privacidade e impede que o provedor de nuvem acesse os dados, que permanecem criptografados (ilegíveis) enquanto são transmitidos pela rede e quando chegam ao servidor. 

Ao chegarem na unidade central de processamento (CPU) ou na GPU, os dados são temporariamente descriptografados. Ainda assim, permanecem privados, porque ficam em uma parte física do hardware (CPU ou GPU) chamada de ambiente de execução confiável (TEE). Essa seção do chip isola um pedaço do circuito, tornando-o inacessível para o restante do computador. É, basicamente, um escudo físico de privacidade.

Durante a fase de inferência, os dados são descriptografados, mas continuam protegidos. Em seguida, são criptografados para se mover pelo servidor de nuvem e descriptografados quando chegam ao seu dispositivo.

Para se livrar da dependência da infraestrutura externa e alcançar a soberania, é preciso controlar quatro componentes principais do stack de IA:

• Soberania de dados: refere-se a manter o controle sobre como os dados são coletados, classificados, processados e armazenados para atender às regulamentações. Dados confidenciais devem ser armazenados no perímetro de soberania, estando sujeitos apenas às leis locais. 

  No contexto da IA, a soberania de dados afeta o treinamento, a inferência e os pesos. Nesse caso, os dados usados para treinar a IA são seus. Quando um usuário faz uma pergunta, os dados são processados localmente, em vez de ir para um data center externo. Por fim, nesse mesmo contexto, a soberania de dados permite controlar e personalizar o manual de instruções que decide como a IA "pensa".

• Soberania técnica: refere-se a possuir (e ser capaz de validar) o modelo do seu stack de IA. A IA não é apenas um software, mas uma receita com vários ingredientes. Ao desenvolver um stack de IA, você usa ingredientes de diferentes fornecedores. A soberania técnica exige uma cadeia de custódia transparente para cada componente do sistema de IA. Esse conceito é conhecido como lista de materiais de software (SBOM) ou lista de materiais de IA (AIBOM). A lista atua como um inventário completo das tecnologias que você usa e ajuda a auditar o sistema para garantir a integridade dele. 

  Considere o seguinte: a gestão da contabilidade da sua empresa é terceirizada. Você entrega seus registros financeiros a uma firma externa da sua confiança. Em um determinado ano, sua empresa passa por uma auditoria. Você descobre que o contador não guardou nenhum recibo, e os cálculos não fecham. 

  A soberania técnica é a decisão de gerenciar a contabilidade internamente. Você usa um software próprio no seu computador e anexa um recibo digital a cada entrada. Quando o auditor chega, basta entregar uma pasta contendo todos os recibos e registros de cada pessoa que mexeu nos arquivos com carimbos de data/hora. 

• Soberania operacional: refere-se a quem administra o sistema. Exige controle administrativo completo, autossuficiência (com talentos locais) e defesa do tipo "kill-switch". Assim, você não precisa se preocupar com a possibilidade de entidades externas desativarem ou alterarem as configurações da IA remotamente. Com a soberania operacional, você opera sua tecnologia de forma independente. 

  Considere o seguinte: um banco na Índia usa um sistema de IA localizado nos Estados Unidos. O sistema lança uma atualização de software que cria desvios na forma como a IA opera e processa dados. Os usuários começam a ter problemas, e os clientes não conseguem mais acessar suas contas. Em vez de chamar engenheiros locais para corrigir o problema, o banco precisa ligar para o atendimento ao cliente para receber assistência operacional. 

• Soberania de confiabilidade: é o processo de verificar e garantir a integridade, a segurança e a confiabilidade dos sistemas e processos digitais de maneira independente. Ou seja, assegurar que a IA faz o que promete. A soberania de confiabilidade realiza auditorias contínuas do sistema e validações independentes usando medições suas, e não as estabelecidas pelo fabricante ou fornecedor.

  Sem ela, você pode ter e operar um sistema que apresenta alucinações ou não se comporta da maneira desejada. Com ela, você assegura que a lógica dos sistemas atenda aos seus padrões e expectativas. Quando um sistema apresenta um comportamento inadequado, você pode analisá-lo para diagnosticar o problema. 

  A soberania de confiabilidade também permite produzir evidências do comportamento da sua IA prontas para auditoria, o que é importante para fins regulatórios. Ferramentas open source como o Feast extraem dados de diferentes origens, reúnem esses dados em um único sistema organizado e geram recibos. Desse modo, se uma agência reguladora perguntar por que a IA negou um empréstimo, você pode informar a versão exata dos dados usados para tomar essa decisão.
  
  Leia mais sobre o Feast

O open source oferece os modelos e as ferramentas necessários para criar uma IA soberana. Sem os modelos open source, poucas empresas teriam recursos financeiros para desenvolver a IA. Todas as outras seriam forçadas a alugar a tecnologia, em vez de desenvolver uma própria. 

Isso porque um dos maiores obstáculos para criar uma IA soberana é o custo de treinar os modelos e sistemas do zero. Com o software e modelos de peso open source, as empresas ou países podem usar um modelo fundamental e ajustá-lo com dados próprios para atender a necessidades específicas. Também podem reduzir os custos usando bibliotecas de código open source, como vLLM. 

A IA soberana garante o direito de controlar seus sistemas de IA. A XAI é a capacidade de exercer esse direito. Você não pode ter soberania (ou poder) sobre uma máquina se não entender como ela funciona ou por que ela gera os resultados que produz. Sem a explicabilidade, a IA soberana é apenas uma caixa preta que pode ter vieses ocultos.

Mais informações sobre a IA explicável (XAI)

A IA está deixando de ser uma ferramenta que responde a perguntas e se tornando um sistema que entende contextos. Com isso, as organizações precisam criar camadas semânticas e gateways de Model Context Protocol (MCP) que permitam a um agente de IA navegar com segurança por todo o acervo de dados da empresa. 

Se você dá à IA acesso às informações para oferecer contexto, faz sentido manter esses dados protegidos, especialmente se forem confidenciais. 

Para operar agentes de IA em um sistema de IA soberana, o treinamento, a certificação, os gráficos de conhecimento e os sistemas de backend precisam estar fisicamente localizados na mesma jurisdição em que os agentes atuam. Assim, eles podem ser treinados e acessar conhecimentos potencialmente privados para seu caso de uso específico. Além disso, a proximidade reduz a latência (atraso).

Considere um agente de IA especializado em leis alemãs que ajuda a tomar decisões políticas. Sem sistemas de IA soberana em vigor, pode haver alguns problemas:

• Ao usar conjuntos de dados treinados com dados globais ou sistemas jurídicos dos EUA, existe o risco de criar vieses ou resultados imprecisos para o contexto alemão.
• Quando os agentes residem em uma nuvem estrangeira, em vez de soberana, o provedor tem acesso aos dados, memória e lógica, podendo se aproveitar dessa conexão.
• Em caso de erro do agente, entidades locais e internacionais podem discordar da legislação aplicável.
• Em uma disputa internacional, o agente pode ser encerrado porque o provedor estrangeiro revogou a chave de API. 

Com a IA soberana, os agentes são tratados segundo os limites da sua jurisdição. Nesse exemplo, o agente alemão que considera a legislação alemã tem acesso aos dados de arquivos nos servidores do país. Ele entende as nuances da cultura alemã e tem acesso ao treinamento e certificação necessários para a graduação em direito alemão. Além disso, ele usa um gráfico de conhecimento de decisões judiciais do país localizado na Alemanha. 

Sem as práticas de IA soberana, os políticos alemães podem usar uma IA que recebe e envia dados entre a Alemanha e outros países. Os gráficos de conhecimento usados podem incluir informações jurídicas do mundo todo. Pode não haver acesso a decisões judiciais alemãs que ajudariam a elaborar um caso. O treinamento cultural do agente pode ser diferente do que os legisladores alemães esperam dos sistemas e políticas legais. 

Mais informações sobre agentes de IA

O uso abrangente da IA soberana pode criar uma rede de ecossistemas locais especializados, proporcionando estes benefícios:

• Segurança e proteção de dados: a IA soberana é ainda mais importante para setores altamente regulamentados, como saúde, finanças e governos. Ela reforça a cibersegurança e protege dados proprietários e propriedades intelectuais. Além disso, viabiliza uma cadeia de suprimentos de software auditável. Ferramentas como vLLM e llm-d permitem verificar cada parte do software antes que ele acesse dados confidenciais. Assim, a segurança passa de uma defesa passiva para a verificação ativa.

• Independência de provedores de IA estrangeiros: ao desenvolver e usar sistemas de IA próprios, os governos e organizações mantêm o controle e operações contínuas diante de fatores externos turbulentos. Por exemplo, guerras comerciais, mudanças regulatórias, conflitos geopolíticos ou quedas de energia.

• Vantagem competitiva: com o controle da infraestrutura e dos modelos de IA, as organizações podem ajustar os sistemas e personalizar os resultados para que a IA se comporte com base no contexto cultural e demandas empresariais específicas. 

• Maior confiança do usuário: os usuários e clientes se sentem mais seguros sabendo que os dados não sairão do país.

• Sustentabilidade e controle de recursos: quando a organização controla como e onde as cargas de trabalho são executadas, pode decidir como alimentá-las. Por exemplo, usar fontes de energia renováveis para alinhar as operações aos compromissos ambientais locais. A IA soberana leva a organização ou país da dependência à autonomia. 

A IA soberana é um caminho estratégico que exige investimentos em longo prazo. Ao operar um stack soberano personalizado, você troca a conveniência pela responsabilidade. E essa transição pode ter vários desafios:

• Ambiguidade jurídica: diferentes jurisdições têm leis distintas. As organizações precisarão conciliar estruturas legais conflitantes para decidir como a IA deve operar. Isso pode exigir aconselhamento jurídico.

• Mudanças lentas: as agências reguladoras e de conformidade são conhecidas por terem processos demorados. É provável que as decisões não sejam tomadas rapidamente, e os projetos precisarão ser gerenciados com estratégia.

• Custos: além de pagar pela capacidade de computação e infraestrutura para processar a IA, as organizações precisarão encontrar experts talentosos para implementar as soluções técnicas desejadas. Também precisarão investir em pesquisa e desenvolvimento para criar serviços que beneficiem e atendam aos usuários. 

• Complexidade técnica: para criar um stack de IA soberana, provavelmente serão necessárias mudanças na infraestrutura de TI geral. Por exemplo, criar novos códigos e migrar os dados existentes. Gerenciar isso por conta própria é mais difícil do que usar uma opção pronta, como o Modelo como serviço (MaaS).

As estratégias para implementar a IA soberana variam de acordo com os recursos disponíveis. Descubra como diferentes países estão adotando essa tecnologia:

• Design com soberania abrangente: atualmente, a China é o exemplo mais notável de IA soberana quase total. O governo chinês tem controle sobre os dados, com leis rígidas e acesso a dados do setor privado; aplicações, com um ecossistema totalmente nacional; e modelos, por meio de laboratórios regionais. O país investe no desenvolvimento local de chips, mas ainda não é totalmente independente em termos de hardware. Com o Grande Firewall, um sistema estatal de vigilância da internet, a China chegou mais perto da soberania digital do que qualquer outro país. 

• Predominância do setor privado: nos EUA, empresas privadas criaram sistemas de IA dominantes com pouca ajuda direta do governo estadunidense. A Microsoft, Google, OpenAI e Anthropic comandam o desenvolvimento global da IA, exercendo uma forma de soberania. 

• Soberania regulatória: a abordagem de soberania da União Europeia prioriza a governança, e não a infraestrutura. A Lei sobre IA da UE classifica a IA de acordo com o risco e define os padrões que os sistemas devem seguir para operar na União Europeia. Em vez de tentar alcançar os orçamentos de infraestrutura e computação da China e dos EUA, a União Europeia investe em projetos locais, como o Mistral, e estabelece regulamentações claras para orientar o setor.

• Soberania simplificada: países menores aceitam a dependência dos modelos fundamentais estrangeiros, dedicando tempo e investimentos para fazer o ajuste fino para idiomas locais, desenvolver frameworks de governança regionais e manter os dados internamente. Ou seja, investem em pesquisadores locais, sem tentar criar uma versão própria do ChatGPT da OpenAI. Por exemplo, o projeto SEA-LION de Singapura reúne talentos locais para desenvolver LLMs voltados para as comunidades do sudeste asiático. 

Às vezes, os dois termos são usados de forma intercambiável e confusa. Conheça as diferenças.

A IA soberana refere-se a soluções, stack de tecnologia e ferramentas que permitem a um país ou entidade implantar sistemas de IA personalizados. É o poder de decidir como a IA vai operar. Envolve a capacidade, os recursos e os meios. 

A soberania da IA é um conceito mais filosófico que questiona quem tem o poder de determinar as políticas da IA. Ela visa garantir que cidadãos e comunidades diversos opinem sobre como a IA afeta suas vidas e futuros. A soberania da IA vai além do uso da tecnologia, incluindo discussões sobre direitos humanos, democracia, consentimento, valores e preservação cultural. 

Considere o seguinte: um país pode adotar a IA soberana de modo que prejudique a soberania da IA dos cidadãos. Ele pode ter ferramentas de IA sofisticadas e totalmente independentes, mas não as usar de forma justa ou imparcial para com os cidadãos. 

A IA soberana e a soberania da IA também têm pontos em comum. Para criar um sistema de IA soberana, é preciso pensar sobre valores e poder, responsabilização e representação, que são aspectos da soberania da IA.

No cenário da IA monopolizada ou centralizada, poucos hyperscalers controlam a oferta mundial de inteligência, ou seja, a infraestrutura, o acesso a dados brutos e as tecnologias que moldam as sociedades. Com isso, países que não possuem a tecnologia talvez dependam de potências estrangeiras, alimentando conflitos geopolíticos. A IA soberana é um esforço para impedir que isso aconteça. 

Modelo como serviço (MaaS) é a prática de pagar para ter acesso a um modelo, como o ChatGPT. No MaaS, o provedor pode alterar o modelo ou interromper seu acesso a critério exclusivo. Com a IA soberana, você não depende mais dos serviços de terceiros, já que possui seus próprios serviços. 

É importante conhecer o espectro da IA soberana para saber onde você está agora e aonde quer chegar:

• Zero soberania: a maioria das empresas começam desse ponto, usando MaaS. Você usa um modelo sem entendê-lo por completo e envia dados para processamento em outros países. Nesse cenário, você é apenas um contratante. Se o provedor desativar o serviço, sua IA desaparecerá.

• Soberania parcial: é o meio-termo, em que você usa modelos open source hospedados em uma infraestrutura regional. O código é seu, e você sabe aplicar o conhecimento aos modelos. Nesse cenário, é provável que você use chips da NVIDIA ou provedores de nuvem localizados em outros países. Ou seja, você depende de hardware externo.

• Soberania total: a IA é desenvolvida em um ambiente nacional e hardware próprio. É treinada com dados locais e usa fontes de energia regionais. 

Leia mais sobre o MaaS

O conceito de IA soberana considera a possibilidade de um país delimitar a IA, uma tecnologia que molda cada vez mais a sociedade. É a peça central de um quebra-cabeça maior que contém outros tipos de soberania mais amplos, como a soberania digital e a soberania técnica:

A soberania digital considera as regras, direitos e jurisdição do espaço digital.

A soberania técnica define quem possui e controla a infraestrutura e a tecnologia subjacentes.

A IA soberana combina as duas, proporcionando sistemas de IA regidos pelas suas regras, desenvolvidos na sua infraestrutura, treinados com seus dados e alinhados aos seus valores. 

A maioria dos países tem ou soberania digital ou soberania técnica. Apesar da busca por criar uma IA soberana, alcançar essa realidade requer maior desenvolvimento das políticas relacionadas à tecnologia. 

Nos próximos anos, provavelmente haverá um aumento nos sistemas de IA regionais ou nacionais. Por exemplo, a Lei sobre IA da UE e investimentos em modelos como o Mistral evidenciam que a Europa busca uma identidade para a IA diferente da que os EUA e a China oferecem. 

O Red Hat® AI foi criado para realizar inferências rápidas, flexíveis e eficientes usando um servidor com tecnologia vLLM. Ele conecta modelos aos seus dados de maneira confiável para unificar a personalização e o desenvolvimento de agentes especializados em uma plataforma. Desenvolvidas sobre uma base open source, nossas soluções oferecem controle total dos fluxos de trabalho de IA de ponta a ponta em qualquer escala. 

A Red Hat oferece a base da IA soberana para que as organizações desenvolvam fábricas de IA isoladas e mantenham o controle sobre a segurança, os dados, os modelos e os resultados.

O diferencial do nosso ecossistema está na transparência. Um fornecedor não consegue resolver sozinho os desafios da IA soberana. Ao unificar diversas nuvens e hardware, a Red Hat ajuda você a atender às regulamentações regionais e evitar a dependência de fornecedor. 

A abordagem da Red Hat prioriza a transparência, a contribuição upstream e padrões abertos, permitindo a verificação independente de todo o stack de tecnologia.