RHEL versus RHEL AI: ¿en qué se diferencian?

En el Red Hat Summit 2024, se dio a conocer Red Hat Enterprise Linux (RHEL) AI. RHEL AI se describe como “una plataforma de modelos fundacionales que permite a los usuarios desarrollar, probar y ejecutar modelos de IA generativa (GenAI) de manera más integrada”. Sin embargo, esta descripción puede no ser del todo clara, en particular para los usuarios de RHEL acostumbrados al rol de la plataforma como sistema operativo integral en la nube híbrida.

En este artículo, describo las dos ofertas en detalle, incluso en qué se diferencian y asemejan RHEL y RHEL AI, qué incluye RHEL AI y cómo puedes comenzar a usarla hoy mismo.

¿Qué es RHEL?

Red Hat Enterprise Linux es la plataforma Linux empresarial líder del mundo que ofrece una base operativa uniforme para la TI moderna y las implementaciones de nube híbrida empresarial. RHEL es mucho más que un simple sistema operativo. Cada suscripción de RHEL incluye:

• herramientas de automatización y gestión para la empresa, incluido Red Hat Insights
• funciones de seguridad integradas, como la aplicación de parches en vivo para el kérnel, perfiles de seguridad, certificación de estándares de seguridad y una cadena de suministro de software enraizada en un código de confianza
• acceso al extenso ecosistema de partners de Red Hat
• soporte técnico 24x7
• un ciclo de vida del producto de 10 años
• protecciones legales proporcionadas por nuestro programa Open Source Assurance
• … y mucho más

¿Qué es RHEL AI?

En términos sencillos, RHEL AI es RHEL. Más en concreto, RHEL AI es una versión optimizada y sumamente mejorada de RHEL que proporciona una plataforma de modelos fundacionales para desarrollar, perfeccionar, probar y ejecutar modelos de lenguaje de gran tamaño (LLM) de la familia Granite de manera uniforme a fin de potenciar las aplicaciones de IA empresarial.

RHEL AI también aprovecha el modo de imagen de Red Hat Enterprise Linux, un nuevo enfoque para la implementación del sistema operativo que permite a los usuarios crear, implementar y gestionar RHEL como una imagen de contenedor de arranque (bootc). Esto significa que RHEL AI se puede implementar, gestionar y escalar del mismo modo que implementas, gestionas y escalas cualquier aplicación en contenedores.

Básicamente, RHEL AI es una plataforma totalmente equipada para el desarrollo, el ajuste y el alojamiento de LLM que se puede implementar y gestionar con Red Hat OpenShift AI en cualquier lugar de la nube híbrida, desde un entorno local hasta el edge.

¿Qué incluye RHEL AI?

RHEL AI combina varios componentes, entre ellos:

• LLM Granite con licencia open source, que se distribuye bajo la licencia Apache 2.0 y ofrece una transparencia líder en la industria de los conjuntos de datos de entrenamiento y los parámetros de modelos
• una distribución con soporte y ciclo de vida de InstructLab, que proporciona una solución escalable y rentable para mejorar las capacidades de los LLM y hacer que el aporte de conocimientos y habilidades sea mucho más accesible para las personas que no cuentan con la experiencia que normalmente se necesita para el ajuste fino de la IA
• una imagen de arranque de RHEL (habilitada por el modo de imagen de RHEL) que incluye bibliotecas de IA populares como PyTorch y aceleradores optimizados por hardware para NVIDIA, Intel y AMD soporte técnico de nivel empresarial brindado por Red Hat
• Open Source Assurance, protecciones legales a disposición de todos los clientes de Red Hat con suscripciones de software de Red Hat activas y pagas

¿Qué son los modelos de lenguaje de gran tamaño Granite?

IBM desarrolló la familia de LLM Granite con licencia open source, que incluye modelos de código, de series temporales, de lenguaje y geoespaciales. Estos modelos están disponibles en Hugging Face bajo una licencia Apache 2.0 permisiva que permite su uso comercial amplio y sin restricciones.

Actualmente, RHEL AI incluye los modelos Granite de la comunidad de InstructLab desarrollados en conjunto. En la versión inicial de RHEL AI, los usuarios tienen acceso de disponibilidad general al modelo granite-7b-starter y al modelo granite-7b-redhat-lab correspondiente, así como a versiones tecnológicas preliminares de los modelos de código granite-8b-code-base y granite-8b-code-instruct . En la documentación oficial encontrarás una lista actualizada y más información de los LLM incluidos en RHEL AI.

Es importante destacar que todos los modelos Granite de código abierto se entrenan con datos cuidadosamente seleccionados y con un nivel de transparencia líder en la industria respecto de los datos y los parámetros de los modelos utilizados.

¿Por qué es importante la transparencia de datos?

Si bien el uso y la popularidad de la IA han experimentado un aumento significativo, muchas empresas dudan en utilizar LLM de terceros porque les preocupa el resultado que generan y si su uso es legal.

Por ejemplo, The New York Times demandó a la OpenAI porque alegó que chatGPT se había entrenado con más de un millón de artículos del NYTimes protegidos por derechos de autor. A septiembre de 2024, esto aún no se había probado en instancia judicial, pero en caso de probarse, podría significar que cualquier resultado generado por ChatGPT podría considerarse una obra derivada, por lo cual el NYTimes sería el titular de los derechos de autor de ese trabajo.

Es natural que situaciones como estas generen una clara preocupación para cualquier persona que utilice herramientas de IA.

No obstante, los LLM Granite con licencia de código abierto son distintos, dado que se publican bajo una licencia Apache 2.0 y brindan una transparencia significativa respecto de los datos de entrenamiento y los parámetros del modelo. Esto significa que los usuarios pueden confirmar directamente qué datos se utilizaron para entrenar los modelos, lo que reduce el riesgo de conflictos legales o cuestiones relacionadas en el futuro. Además, Red Hat brinda protección legal a los clientes de Red Hat que utilizan RHEL AI a través del programa Open Source Assurance.

¿Qué es InstructLab?

El proyecto InstructLab, creado por IBM y Red Hat, tiene por objeto democratizar la GenIA a través del poder de una comunidad open source. InstructLab se dedica a la creación de herramientas sencillas y rentables para el ajuste fino de los LLM que se utilizan en aplicaciones de GenIA.

Estas herramientas están diseñadas para ser más accesibles para los desarrolladores y los expertos con competencias fundamentales, pero que tal vez no tengan los conocimientos técnicos especializados que habitualmente se requieren para realizar el ajuste fino de los modelos de IA. Esto significa que son más las personas que pueden participar en estos procesos de ajuste fino, lo que los hace más democráticos, eficientes y eficaces.

El eje del proyecto InstructLab es LAB, la alineación a gran escala para ChatBots, que se describe en detalle en este trabajo de investigación de 2024 realizado por miembros del MIT-IBM Watson AI Lab e IBM Research.

Introducción a InstructLab para el ajuste de modelos de IA generativa

¿Qué es el programa Open Source Assurance?

A través de la Open Source Assurance, Red Hat ofrece garantías de propiedad intelectual en caso de un reclamo de que un software open source o un modelo de IA proporcionado por Red Hat viola los derechos de propiedad intelectual de un tercero.

Esto significa que, en caso de que un tercero presente una demanda por violación, Red Hat defenderá al cliente de la demanda y pagará el importe de la sentencia o el acuerdo sujeto a limitaciones establecidas. Cuando fuera posible, Red Hat también podrá reemplazar o modificar el software o el modelo de IA respectivo.

Todos los clientes con suscripciones de software de Red Hat activas y pagas son elegibles para participar del programa Open Source Assurance, que es un beneficio integral de una suscripción de un producto Red Hat.

Red Hat ha ofrecido protecciones legales en el pasado

El programa Open Source Assurance no es nuevo. Se presentó originalmente en 2004 para acompañar la promesa de patente de Red Hat y nuestra participación como miembro fundador de la Open Invention Network.

Más tarde, en 2006, el programa Open Source Assurance se amplió para incluir estas protecciones legales más amplias en materia de propiedad intelectual para los clientes de Red Hat. En un comienzo, estas protecciones se ofrecieron en relación con el kérnel de Linux, que en aquella época fue el centro de algunos pleitos polémicos.

El programa tiene como objetivo garantizar a los clientes que los reclamos contra productos de Red Hat son un problema que debe resolver Red Hat, no el cliente. Esto significa que, en caso de un reclamo por violación de propiedad intelectual, los clientes pueden utilizar las soluciones de Red Hat sin interrupción.

La inclusión de RHEL AI y del resultado de los modelos de IA de marca Red Hat en el programa Open Source Assurance no es más que una prolongación de la larga trayectoria de Red Hat en la protección de los clientes que utilizan nuestras soluciones open source.

¿Estás listo para comenzar a utilizar RHEL AI?

Red Hat Developers ha presentado una ruta de aprendizaje de RHEL AI que te ayudará a explorar estas nuevas herramientas y capacidades. Esta capacitación gratuita presenta los aspectos básicos relacionados con la recopilación de datos, la capacitación previa y el ajuste fino y te muestra el proceso de mejora de un LLM existente.

Prueba Red Hat Enterprise Linux AI