Resumen
Kubernetes respalda las cargas de trabajo de inteligencia artificial/machine learning (aprendizaje automático) al permitir que el código se replique, traslade y ajuste de manera uniforme en entornos diversos. Es una plataforma open source que automatiza las operaciones de los contenedores de Linux y elimina muchos de los procesos manuales involucrados en la implementación y el ajuste de las aplicaciones que se alojan allí. Además, es fundamental para optimizar el ciclo de vida de la inteligencia artificial/machine learning, ya que ofrece a los analistas de datos la agilidad, la flexibilidad, la portabilidad y la capacidad de ajuste necesarias para entrenar, probar e implementar los modelos de machine learning.
La función de los contenedores en el desarrollo de la inteligencia artificial/machine learning
El flujo de trabajo para crear aplicaciones basadas en machine learning no es lineal; las etapas de investigación, desarrollo y producción evolucionan constantemente en las actividades de integración y distribución continua (CI/CD) que realizan los equipos de desarrollo. El proceso de diseño, prueba, unificación e implementación de datos, algoritmos y versiones nuevos de una aplicación implica numerosas variables, lo que puede ser difícil de gestionar. Ahí es donde entran en juego los contenedores.
Los contenedores son una tecnología de Linux gracias a la cual puedes empaquetar y aislar las aplicaciones junto con todas las bibliotecas y las dependencias que necesitan para ejecutarse. No requieren un sistema operativo completo, sino solo los elementos esenciales para funcionar, lo cual los hace ligeros y portátiles. Esto facilita la implementación de las operaciones y les garantiza a los desarrolladores que sus aplicaciones se ejecutarán exactamente de la misma manera en diferentes plataformas o sistemas operativos.
Otra ventaja de los contenedores es que permiten reducir los conflictos entre los equipos de desarrollo y de operaciones al separar las áreas de responsabilidad. Además, cuando los desarrolladores pueden centrarse en las aplicaciones y los equipos de operaciones, en la infraestructura, la integración del código nuevo en una aplicación a medida que crece y evoluciona a lo largo de su ciclo de vida se vuelve más sencilla y eficiente.
Recursos de Red Hat
Los beneficios de Kubernetes para las cargas de trabajo de inteligencia artificial/machine learning
Capacidad de ajuste: Con Kubernetes, los usuarios pueden ampliar o reducir las cargas de trabajo de machine learning según sea necesario. Esto garantiza que los procesos de machine learning puedan ajustarse a los entrenamientos y los procesamientos de gran envergadura sin interferir con otros elementos del proyecto.
Eficiencia: Para optimizar la asignación de recursos, Kubernetes programa las cargas de trabajo en los nodos en función de su disponibilidad y capacidad. Garantiza que los recursos informáticos se utilicen de manera adecuada, de modo que los usuarios podrán observar una reducción en los costos y un aumento en el rendimiento.
Portabilidad: Kubernetes ofrece un entorno estandarizado que no depende de ninguna plataforma, lo cual les permite a los analistas de datos desarrollar un solo modelo de machine learning e implementarlo en varios entornos y plataformas de nube. Esto significa que no tendrás que preocuparte por los problemas de compatibilidad ni por la dependencia de un solo proveedor.
Tolerancia a los errores: Gracias a las funciones integradas de tolerancia a los errores y autorregeneración, los usuarios pueden confiar en que Kubernetes mantendrá los canales de machine learning en funcionamiento incluso en caso de que se produzcan fallas en el hardware o el software.
Implementación de los modelos de machine learning en Kubernetes
El ciclo de vida del machine learning consta de varios elementos distintos cuya gestión y mantenimiento por separado podrían llevar mucho tiempo y recursos. Con una arquitectura de Kubernetes, las empresas pueden automatizar partes del ciclo de vida, lo cual elimina la necesidad de intervención manual y aumenta la eficiencia.
Se pueden implementar kits de herramientas como Kubeflow para ayudar a los desarrolladores a optimizar y distribuir las cargas de trabajo de machine learning entrenadas en Kubernetes. Kubeflow soluciona muchos de los problemas relacionados con la organización de los procesos de machine learning, ya que ofrece un conjunto de herramientas y API que simplifican el entrenamiento y la implementación de modelos de machine learning según sea necesario. También permite estandarizar y organizar las operaciones de machine learning (MLOps).
Red Hat puede ayudarte
Kubernetes puede ayudarte a optimizar las cargas de trabajo de inteligencia artificial/machine learning, pero aún necesitas una plataforma para experimentar y distribuir modelos y sus aplicaciones.
Red Hat® AI es nuestra cartera de productos de inteligencia artificial basada en soluciones que nuestros clientes ya conocen. Gracias a ellas, nuestros productos siguen siendo confiables, flexibles y adaptables.
Con Red Hat AI, las empresas logran:
- adoptar la inteligencia artificial y generar innovaciones con ella de manera rápida;
- simplificar el proceso de distribución de soluciones basadas en inteligencia artificial;
- implementar recursos en cualquier entorno.
Flexibilidad durante el proceso de ajuste
Red Hat AI incluye Red Hat OpenShift® AI: una plataforma de MLOps integrada que puede gestionar el ciclo de vida de los modelos de inteligencia artificial predictiva y generativa.
Esta plataforma ofrece un espacio para diseñar, entrenar, implementar y supervisar las cargas de trabajo de inteligencia artificial/machine learning en los centros de datos locales o más cerca de donde se encuentran los datos, lo que facilita el traslado de las operaciones a la nube o al extremo de la red cuando sea necesario.
Con la combinación de Kubernetes y Red Hat AI, tu equipo podrá mantener la agilidad a la hora de distribuir las aplicaciones de inteligencia artificial en los entornos de nube híbrida.
Patrón de la solución: aplicaciones de inteligencia artificial con NVIDIA AI Enterprise y Red Hat
Crea una aplicación de RAG
Red Hat OpenShift AI es una plataforma que permite diseñar proyectos de análisis de datos y distribuir aplicaciones que utilizan inteligencia artificial. Con ella, puedes integrar todas las herramientas que necesitas para admitir la generación aumentada por recuperación (RAG), un método que permite obtener respuestas de inteligencia artificial a partir de tus propios documentos de referencia. Al conectar OpenShift AI con NVIDIA AI Enterprise, puedes realizar pruebas con modelos de lenguaje de gran tamaño (LLM) para encontrar el modelo óptimo para tu aplicación.
Crea un canal para la documentación
Para utilizar la generación aumentada por recuperación, primero debes ingresar tus documentos a una base de datos vectorial. En nuestra aplicación de ejemplo, incorporamos un conjunto de documentos de productos a una base de datos Redis. Como estos documentos cambian con frecuencia, podemos crear un canal para este proceso que ejecutaremos periódicamente, de modo que siempre dispongamos de las últimas versiones de los documentos.
Explora el catálogo de LLM
NVIDIA AI Enterprise brinda acceso a un catálogo de diferentes modelos de lenguaje de gran tamaño para que puedas probar distintas opciones y seleccionar aquel que ofrezca los mejores resultados. Los modelos se alojan en el catálogo de API de NVIDIA. Una vez que hayas configurado un token de API, podrás implementar un modelo utilizando la plataforma de distribución de modelos NVIDIA NIM directamente desde OpenShift AI.
Elige el modelo adecuado
A medida que pruebas diferentes modelos de lenguaje de gran tamaño, los usuarios pueden valorar cada respuesta generada. Configura un panel de supervisión de Grafana para comparar las calificaciones, así como la latencia y el tiempo de respuesta de cada modelo. Luego, aprovecha esos datos a la hora de elegir el mejor modelo para la fase de producción.
Blog oficial de Red Hat: últimas novedades sobre la automatización empresarial, la nube híbrida, la inteligencia artificial y mucho más.
Más información sobre nuestro ecosistema de clientes, socios y comunidades y las últimas novedades sobre la automatización empresarial, la nube híbrida, la inteligencia artificial y mucho más.
