O que é segurança de IA?

A segurança de IA protege aplicações de inteligência artificial contra ataques maliciosos que visam enfraquecer cargas de trabalho, manipular dados ou roubar informações confidenciais. Ela adapta os princípios de confidencialidade, integridade e disponibilidade ao ciclo de vida da IA e aos ecossistemas técnicos. 

Conheça o Red Hat AI

As cargas de trabalho de IA introduzem novas áreas que a segurança de TI tradicional não abrange. Por isso, ela se concentra em proteger as cargas de trabalho de IA contra uso indevido e manipulação. Isso é diferente de usar a IA para cibersegurança (proteção contra o uso criminoso ou não autorizado de dados eletrônicos) ou segurança no uso da IA (prevenção de consequências nocivas resultantes do uso dessa tecnologia). 

A segurança de IA envolve identificar vulnerabilidades e manter a integridade dos seus sistemas de IA, para que eles operem conforme o esperado e sem interrupções. Isso inclui garantir a integridade dos dados de treinamento, a proveniência dos modelos e o isolamento das unidades de processamento gráfico (GPUs) dentro da sua plataforma. (A maioria das GPUs não foi projetada considerando requisitos de segurança ou isolamento, o que as torna vulneráveis a ataques.)

A maioria das estratégias de segurança existentes precisa ser atualizada para contemplar a nova superfície de ataque introduzida pelas cargas de trabalho de IA. Nesse cenário em rápida evolução, uma abordagem flexível ajuda a proteger as cargas de trabalho de IA e os sistemas nos quais elas operam, à medida que novas diretrizes forem sendo definidas.

Para proteger seus sistemas de IA, é importante compreendê-los profundamente. Quanto melhor você entender sua tecnologia de IA, melhor poderá protegê-la. 
 

O que é infraestrutura de IA? 
 

Pense assim: uma configuração típica de TI é como uma casa. Ela tem algumas vulnerabilidades, como portas e janelas, mas todas podem ser fechadas e trancadas. Já uma solução de IA é como um prédio em outro planeta, com pontos de entrada que se estendem por dezenas de andares e galáxias. Há vários pontos de ataque que você talvez nunca tenha considerado.

As soluções de IA oferecem inúmeras oportunidades para usuários e invasores, que podem ser tanto ferramentas úteis quanto um pesadelo de segurança. Considerando os desafios de segurança de software tradicional, a complexidade da IA exige estratégias de segurança especializadas que funcionem com os processos em prática.

Uma estratégia de segurança de IA eficaz considera todas as portas e janelas e adota a prevenção ativa para eliminar brechas e oportunidades de infiltração. Ela não apenas protege dados sensíveis contra exposição e exfiltração, mas também aplica mecanismos de defesa contra ataques, mantém a conformidade com políticas de segurança e frameworks regulatórios específicos (como a Lei de Inteligência Artificial da UE), além de agrega visibilidade e confiança à postura de segurança dos seus sistemas de IA.

Os agentes maliciosos de IA estão cada vez mais inteligentes e discretos. Os ataques à segurança da IA variam, mas alguns ocorrem com mais frequência que outros. Tipos frequentes de ataque incluem:  

• Ataques de injeção de prompts. Invasores usam prompts maliciosos para manipular as respostas, levando à exposição de dados sensíveis, execução de ações indevidas ou à violação de políticas e controles de segurança, tanto implícitos quanto explícitos.
• Envenenamento de dados. Os invasores injetam dados maliciosos ou malware para manipular os modelos de IA, gerando saídas imprecisas, tendenciosas ou prejudiciais. Isso pode causar interrupções e resultados inadequados.

Os sistemas de IA enfrentam riscos de ataques maliciosos e falhas operacionais. Assim como qualquer sistema implantado em produção, os modelos podem sofrer desvios e deterioração quando não recebem os cuidados adequados. Quando os modelos são treinados com dados de baixa qualidade ou não são atualizados ao longo do tempo, os dados podem se tornar incorretos, desatualizados e até mesmo prejudiciais, causando baixo desempenho e imprecisões. 

Para proteger sua equipe e sua tecnologia, adote estratégias em camadas, pois uma única linha de defesa provavelmente não será suficiente. Táticas comuns incluem:

• Análise comportamental. Esse tipo de detecção de ameaças identifica anomalias e desvios na rede. Após monitorar conjuntos de dados, padrões e atividades típicas, o sistema passa a conhecer profundamente o comportamento usual da IA. Ao encontrar um comportamento atípico, como conteúdo tendencioso (ou pior, senhas públicas e em formato de texto não criptografado), um alerta é acionado.
• Detecção de ameaças ao runtime. Se um agente malicioso escanear o ambiente em busca de vulnerabilidades, a segurança do runtime pode detectar varreduras recorrentes e disparar alertas. Você pode utilizar a IA para aprimorar e automatizar essa técnica, agilizando o reconhecimento de ameaças e o acionamento de alertas.
• Inteligência preditiva contra ameaças. Essa tecnologia prevê eventos futuros com base em dados históricos. Por exemplo, caso um agente malicioso esteja atacando sistemas de fintech por meio de ransomware, a inteligência preditiva de ameaças avalia se a postura da organização é adequada para lidar com a probabilidade de um ataque bem-sucedido.
• Processamento de dados aprimorado. As cargas de trabalho de IA lidam com volumes na casa dos bilhões de pontos de dados. A segurança de IA precisa processar esses dados para determinar se eles estão em risco, são confidenciais ou estão disponíveis. O processamento aprimorado é capaz de detectar anomalias e ameaças no ambiente mais rápido que uma pessoa ou a tecnologia de processamento tradicional. Assim, sua equipe consegue agir rapidamente.
• Análise de caminhos de ataque: essa estratégia permite mapear vulnerabilidades potenciais e oportunidade para agentes maliciosos. Por exemplo, entender como uma ameaça pode entrar nos seus sistemas e acessar dados confidenciais ajuda a identificar o caminho de um ataque e impedi-lo. 

Todas as fases do ciclo de vida da IA têm vulnerabilidades que precisam ser protegidas. Elementos de uma estratégia eficaz de segurança de IA para proteger modelos, dados e privacidade incluem:

• Diretrizes de segurança para IA: elas ajudam modelos de IA generativa a filtrar discurso de ódio, abusivo ou obsceno, informações pessoais identificáveis, inteligência competitiva ou outras restrições específicas do domínio.
• Dados de treinamento protegidos: os sistemas de IA tendem a ser tão confiáveis quanto os dados usados para treiná-los. Os dados de treinamento originais devem ser protegidos por firewalls ou outras medidas de segurança contra adulteração e manipulação, garantindo sua integridade e preservando a confiabilidade das respostas do modelo.
• Segurança de plataforma robusta: proteja a plataforma onde suas cargas de trabalho de IA são executadas para garantir a integridade e a confiabilidade. Se a plataforma for segura, não será tão fácil causar danos.
• Segurança dos sistemas e da cadeia de suprimentos: você pode adaptar as práticas recomendadas dessas áreas para abranger cargas de trabalho de IA. Assim como a segurança da cadeia de suprimentos de software tradicional verifica a integridade de bibliotecas open source, a segurança da cadeia de suprimentos de IA é responsável pela procedência e a integridade de dados de treinamento, modelos pré-treinados e componentes de IA de terceiros.
• Estratégias personalizadas: as cargas de trabalho de IA são únicas e raramente são compatíveis com soluções de segurança genéricas. Sua estratégia de segurança precisa ser adaptada para cada carga de trabalho, designs e dados de IA . 

Você pode implementar essas práticas recomendadas com ferramentas e soluções usuais para proteger seus sistemas de IA, como: 

• Gerenciamento de identidade e acesso:esses sistemas controlam quem tem permissão para utilizar a infraestrutura e os recursos de IA, além de definir como e quando o acesso ocorre. Por exemplo, você pode usar a autenticação multifator para proteger dados confidenciais.
• Gerenciamento da estratégia de segurança de IA: essas ferramentas monitoram suas implantações e operações de segurança. Elas oferecem visibilidade e insights sobre modelos e dados para você controlar seus sistemas de IA.
• Processo de validação de resposta: respostas comprometidas ou não validadas podem gerar problemas em sistemas downstream e até mesmo expor dados confidenciais. Esse processo verifica as respostas do seu modelo antes de enviá-las para outras operações downstream.

A segurança de IA pode trazer diversos benefícios para suas estratégias de IA empresarial. Seja para ajudar na execução otimizada das cargas de trabalho de IA ou permitir que a equipe se concentre no que realmente importa, ela reforça ainda mais sua estratégia de IA. Alguns benefícios incluem: 

• Riscos e exposição reduzidos. Ao impedir o comprometimento dos dados, a segurança de IA evita que informações confidenciais e privadas caiam nas mãos erradas. Quando os ataques são interrompidos antes de causar danos, os usuários e os sistemas de IA não são afetados.
• Economia de tempo e redução de custos. A exposição reduzida dos dados confidenciais resulta em menos interrupções e operações mais tranquilas. Neutralizar ou impedir ataques reduz o tempo de inatividade e libera mais tempo para a inovação.
• Inteligência contra ameaças aprimorada. À medida que a segurança de IA atua contra possíveis ameaças, ela aprende sobre riscos mais comuns e como eles operam. Com o passar do tempo, ela consegue se antecipar a essas ameaças. 

A IA é relativamente nova, e o setor ainda aperfeiçoando essa tecnologia. Como a IA está em constante evolução, garantir sua segurança exige uma abordagem flexível. Desafios recorrentes enfrentados pelo setor incluem: 

• Ameaças específicas cada vez mais sofisticadas. Como a IA continua a evoluir, oportunidades para a exploração de vulnerabilidades tornam aplicações e modelos de IA focos de ataques por agentes maliciosos. Os requisitos de segurança devem acompanhar a evolução da IA.
• Cadeia de suprimentos de software complexa. O ciclo de vida da IA é composto por vários elementos, desde bibliotecas open source até interfaces de programação de aplicações (APIs) de terceiros e modelos pré-treinados. Cada um desses elementos é um possível ponto de entrada para agentes maliciosos. Cadeias de suprimentos de IA complexas exigem uma abordagem de segurança de IA em camadas para abranger seus diversos componentes.
• Requisitos essenciais da segurança de IA . É essencial apagar os dados para remover desvios e vieses do modelo para que ele opere conforme o esperado. Entender e apagar os dados de treinamento de IA exige habilidades específicas que são novas no setor.
• Integração à segurança existente. Ao integrar novas tecnologias como a IA às suas ferramentas existentes, certifique-se de utilizar sistemas que garantam a segurança e a observabilidade tanto das cargas de trabalho de IA quanto da infraestrutura de suporte.
• Deficiências de visibilidade e governança. Apesar dos esforços para desenvolver políticas e soluções de segurança para novas aplicações de IA, muitos riscos ainda não foram abordados de forma proativa, frequentemente por se manifestarem pela primeira vez. Para suas políticas de segurança de IA funcionarem, você precisa atualizá-las constantemente à medida que surgem novas recomendações.

Embora riscos à privacidade dos dados e dos usuários sempre tenham existido, a IA introduz uma série de novos desafios. As principais diretrizes para o uso da IA incluem: 

• Privacidade da IA. Garantir a privacidade na IA significa proteger dados pessoais e proprietários contra uso não autorizado. Considere adotar medidas de segurança significativas para proteger os dados privados.
• Conformidade da IA. À medida que a IA evolui, a conformidade legal e as regulamentações governamentais mudam, podendo criar um padrão que pode aprimorar a forma como utilizamos a IA. 

Embora não faça parte do escopo da segurança, a ética em IA pode influenciar o nível de risco que essa tecnologia representa para uma organização. Os usuários devem estar atentos aos resultados gerados pelos modelos e à forma como estes são utilizados na tomada de decisões.

O uso ético da IA se resume em respeitar valores sociais como direitos humanos, justiça e transparência. Para garantir que os modelos estejam alinhados com sua política de uso ético da IA, verifique como eles foram desenvolvidos e treinados. Você também precisará monitorar continuamente os resultados para eles não se desviarem da política.

O open source promove transparência e a confiança da comunidade. Nossas soluções foram criadas para a nuvem híbrida com tecnologias open source, ajudando a proteger o ciclo de vida da IA de ponta a ponta. 

O Red Hat^® AI ajuda as equipes a experimentar, escalar e entregar aplicações inovadoras. Oferece uma abordagem holística e em camadas para a segurança em IA, desenvolvida a partir da nossa base de segurança de plataforma e práticas de DevSecOps. 
 

Conheça o Red Hat AI 
 

Os clientes podem usar nossas soluções para criar e implantar aplicações de IA confiáveis, reduzindo os riscos de segurança em todas as etapas. O Red Hat OpenShift^® AI oferece benefícios para manter a imparcialidade, a segurança e a escalabilidade com a segurança da IA, como:

• Visibilidade aprimorada. Elimine o fenômeno "caixa preta", que oculta como os modelos chegam às suas conclusões e mantém algoritmos (e usuários) no escuro. Receba insights sobre vulnerabilidades, códigos maliciosos, questões de licenciamento e possíveis riscos à segurança de IA com o Red Hat Trusted Profile Analyzer.
• Fluxos de trabalho de desenvolvimento integrados. Identifique vulnerabilidades com antecedência e reduza o retrabalho caro e redundante ao aplicar, de forma consistente, as práticas recomendadas da segurança de IA desde as etapas iniciais do desenvolvimento. Integrado ao Openshift AI, o Red Hat Advanced Developer Suite hospeda ferramentas como o Red Hat Developer Hub, que pode ser implementado em fluxos de trabalho de desenvolvimento como suporte à rastreabilidade e avaliação de modelos.
• Consistência da nuvem híbrida. Faça inferências em qualquer ambiente com soluções de IA criadas para a flexibilidade da nuvem híbrida. As cargas de trabalho de IA precisam ter o mesmo nível de segurança e desempenho em operações on-premise, na nuvem ou na edge.
• Alinhamento de modelos. Mantenha a precisão dos dados e a integridade dos modelos monitorando o alinhamento entre as respostas geradas e os dados de treinamento. O OpenShift AI também oferece eficiência no ajuste fino de Large Language Models (LLMs) ao utilizar LoRa/QLoRA para reduzir a sobrecarga computacional e o consumo de memória.
• Ferramentas de detecção de desvios. Proteja os dados de entrada e os resultados gerados pelos modelos contra informações sensíveis ou ofensivas, como discurso abusivo ou de ódio, dados pessoais ou outros riscos específicos do domínio. As medidas de segurança da IA e os monitores em tempo real detectam quando os dados dinâmicos usados para inferência de modelos se desviam dos dados de treinamento e acabam prejudicando o desempenho da IA. 

Veja mais sobre o Red Hat OpenShift AI