Red Hat acelera a confiança e a segurança em IA com a aquisição da Chatterbox Labs

A Red Hat, líder mundial no fornecimento de soluções open source, anunciou hoje a aquisição da Chatterbox Labs, empresa pioneira em segurança de IA agnóstica a modelos e em mecanismos de proteção (guardrails) de IA generativa (gen AI). A aquisição traz recursos críticos de "segurança para IA" ao portfólio do Red Hat AI, fortalecendo os esforços da empresa para oferecer uma plataforma corporativa de IA abrangente e open source, desenvolvida para a nuvem híbrida.

Este anúncio se soma a um ano de rápida inovação para o Red Hat AI, após a introdução do Red Hat AI Inference Server e do lançamento do Red Hat AI 3. Clientes em todo o mundo e de diversos setores estão adotando o Red Hat AI para impulsionar a inovação por meio de aplicações de IA generativa, preditiva e agêntica. À medida que as empresas avançam da experimentação para a produção, surge um desafio complexo: implementar modelos que não sejam apenas poderosos, mas também comprováveis, confiáveis e seguros. Recursos de segurança e mecanismos de proteção (guardrails) deixaram de ser diferenciais e tornaram-se requisitos básicos para as operações modernas de machine learning (MLOps).

Esse foco em segurança e confiança reflete o compromisso da Red Hat e da IBM em apoiar os clientes na adoção de uma mentalidade que priorize a segurança à medida que escalam a IA de forma responsável em ambientes de nuvem híbrida. A integração da tecnologia da Chatterbox Labs cria uma plataforma unificada, com segurança incorporada desde a base, fortalecendo a capacidade da Red Hat de viabilizar cargas de trabalho de IA em produção com qualquer modelo, em qualquer acelerador e em qualquer lugar.

Lidando com as consequências não intencionais da IA 

Fundada em 2011, a Chatterbox Labs traz a tecnologia e a expertise fundamentais em segurança e transparência em IA. Sua experiência em risco quantitativo de IA tem sido elogiada por centros de pesquisa e formuladores de políticas independentes do mundo todo. Essa aquisição traz uma tecnologia essencial de machine learning para a Red Hat.

A Chatterbox Labs oferece recursos automatizados e personalizados de segurança e testes de proteção em IA, entregando as métricas factuais de risco que líderes empresariais precisam para aprovar a implementação de IA em produção. A tecnologia traz uma abordagem robusta e agnóstica de modelo para validar dados e modelos por meio de: 

• AIMI para gen AI: entrega métricas quantitativas e independentes de risco para modelos de linguagem de grande porte (LLMs).
• AIMI para IA preditiva: valida qualquer arquitetura de IA com base em pilares-chave, incluindo robustez, equidade e explicabilidade.
• Guardrails: identifica e corrige prompts inseguros, nocivos ou tendenciosos antes de colocar os modelos em produção.

Protegendo a próxima geração de cargas de trabalho de IA

Essa aquisição se alinha à visão da Red Hat de oferecer suporte a diversos modelos e destinos de implantação na nuvem híbrida. Também complementa os recursos inovadores introduzidos no Red Hat AI 3, especialmente para IA agêntica e Model Context Protocol (MCP). À medida que as empresas adotam a IA agêntica, modelos confiáveis e seguros se tornam ainda mais críticos, dada a complexa função autônoma dos agentes de IA e seu potencial impacto nos principais sistemas de negócios.

A Chatterbox Labs realizou um trabalho investigativo sobre a segurança agêntica holística, incluindo o monitoramento de respostas de agentes e a detecção de gatilhos de ação de servidor MCP. Essa iniciativa está alinhada ao roadmap da Red Hat para o suporte ao Llama Stack e ao MCP, posicionando a companhia para proteger a próxima geração de cargas de trabalho inteligentes e automatizadas sobre uma base confiável e pronta para o ambiente empresarial. Ao combinar os recursos de MLOps da Red Hat com os mecanismos de proteção da Chatterbox Labs, a Red Hat permitirá que as organizações operacionalizem seus investimentos em IA com muito mais confiança.

Citações de apoio

Steven Huels, Vice-presidente, Engenharia de IA e Estratégia de Produtos, Red Hat

“As empresas estão levando a IA do laboratório para a produção com grande velocidade, o que aumenta a urgência de implantações de IA confiáveis, seguras e transparentes. A tecnologia inovadora de testes de segurança e mecanismos de proteção agnósticos a modelos da Chatterbox Labs, representa a camada essencial de "segurança para IA" que o setor precisa. Ao integrar a Chatterbox Labs ao portfólio do Red Hat AI, estamos fortalecendo nossa promessa aos clientes de oferecer uma plataforma open source abrangente que permite não apenas executar qualquer modelo, em qualquer lugar, mas também fazer isso com a confiança de que a segurança é integrada desde o início. Essa aquisição ajudará a viabilizar uma IA verdadeiramente responsável e com padrão de produção em escala.”

Stuart Battersby, Ph.D., Cofundador e CTO, Chatterbox Labs 

“Com a proliferação dos sistemas de IA em todos os aspectos dos negócios e da sociedade, não podemos permitir que a segurança se torne uma caixa-preta proprietária. É fundamental que os mecanismos de proteção de IA não sejam apenas implantados; precisam ser rigorosamente testados e ter o suporte de métricas comprováveis. A Chatterbox Labs foi pioneira nessa disciplina desde os primeiros dias da IA preditiva até os sistemas agênticos do futuro. Ao nos unirmos à Red Hat, podemos levar essas métricas de segurança, validadas e independentes, para a comunidade open source. Essa transparência permite que as empresas verifiquem a segurança sem dependência de fornecedores, viabilizando um futuro no qual todos possamos nos beneficiar de uma IA segura, escalável e aberta.”