AI510
Serving Models at Scale with Red Hat AI Enterprise
Descripción del curso
La implementación de modelos de inteligencia artificial en entornos empresariales exige mucho más que un prototipo funcional.
Las empresas deben evaluar los tiempos de ejecución de la distribución, optimizar los modelos para el hardware de producción, gestionar las inferencias a gran escala y supervisar los modelos implementados para mantener los niveles de rendimiento y confiabilidad.
En el curso Serving Models at Scale with Red Hat AI Enterprise (AI510), los estudiantes aprenderán a implementar, distribuir y gestionar modelos de inteligencia artificial para empresas utilizando Red Hat OpenShift AI. Los estudiantes adquirirán experiencia práctica con el marco AI Factory, la distribución de modelos con vLLM y KServe, los microservicios de NVIDIA NIM, la inferencia distribuida con llm-d, la programación de cargas de trabajo con Kueue y la supervisión de modelos de producción.
El curso se basa en Red Hat OpenShift AI 3.4.
Resultados para las empresas
Las empresas tienen dificultades para trasladar los modelos de inteligencia artificial de la etapa de experimentación a la de producción a gran escala, lo que genera demoras en la obtención de resultados e inversiones en infraestructura desaprovechadas. Este curso prepara a los equipos para que implementen, optimicen y utilicen los modelos de inteligencia artificial de manera eficiente en Red Hat AI. De este modo, se reduce la brecha entre la creación de prototipos y la producción y se facilita la distribución confiable y rentable de los modelos en toda la empresa.
Resultados para los estudiantes
Después de completar este curso, los estudiantes podrán evaluar los tiempos de ejecución de la distribución de modelos, optimizar e implementar modelos de inteligencia artificial generativa y predictiva a gran escala con vLLM, KServe y NVIDIA NIM en Red Hat OpenShift AI. También podrán configurar la inferencia distribuida y la programación de las cargas de trabajo, así como supervisar los modelos implementados en la fase de producción.
Público destinatario
Los ingenieros de plataformas de inteligencia artificial, los equipos de operaciones de machine learning (aprendizaje automático) y los administradores de infraestructura responsables de implementar, distribuir y gestionar los modelos de inteligencia artificial a gran escala en Red Hat OpenShift AI.
Preparación recomendada
- Se recomienda tener conocimientos de Red Hat OpenShift o haber completado el curso Red Hat OpenShift Developer II: Building and Deploying Cloud-native Applications (DO288).
- Se recomienda tener conocimientos básicos de los modelos de lenguaje de gran tamaño, los conceptos de inteligencia artificial/machine learning y la distribución de modelos.
- Se recomienda el curso Developing and Deploying AI/ML Applications on Red Hat OpenShift AI (AI267) a los estudiantes que recién comienzan a utilizar la plataforma Red Hat OpenShift AI.
Recomendamos completar nuestra evaluación de habilidades sin costo antes de inscribirse en cualquier capacitación o certificación de Red Hat. Obtén más información.
Descripción del curso
AI0024L - Scale AI with the AI Factory Framework
Evalúa el concepto de fábrica de inteligencia artificial en un contexto empresarial, cómo podría relacionarse con las iniciativas de inteligencia artificial de tu empresa y las soluciones de Red Hat que pueden ayudar a tu empresa a diseñar su propia fábrica de inteligencia artificial.
AI0036L - Assessing the Red Hat AI Platform for Enterprise Model Serving
Evalúa la arquitectura de la plataforma Red Hat OpenShift AI y sus funciones de distribución de modelos para determinar cómo respaldan las cargas de trabajo de inteligencia artificial empresarial.
AI0037L - Evaluating Serving Strategies and Selecting Models for Enterprise AI Workloads
Evalúa las stacks de distribución, los tiempos de ejecución y las opciones de modelos de RHOAI para determinar la estrategia de distribución y la selección de modelos adecuadas para las cargas de trabajo de inteligencia artificial predictiva y generativa.
AI0040L - Preparing and Optimizing Models for Deployment on Red Hat AI
Empaqueta, optimiza y amplía los modelos de inteligencia artificial para su implementación en entornos de producción con Red Hat AI. Para ello, diseña imágenes de modelos OCI que permitan su distribución estandarizada, cuantifica los modelos para reducir el uso de memoria de la GPU y crea ServingRuntimes personalizados con plugins de vLLM para implementar arquitecturas de modelos no convencionales.
AI0031L - Serving Large Language Models on Red Hat AI Using vLLM, KServe, and the Model Registry
Distribuye los modelos de lenguaje de gran tamaño a escala con vLLM, KServe y el registro de modelos en Red Hat AI.
AI0032L - Serving AI Microservices with NVIDIA NIM and Scheduling Workloads with Red Hat Build of Kueue
Utiliza NVIDIA NIM como plataforma de distribución de modelos y gestiona las colas de las cargas de trabajo en Red Hat AI.
AI0038L - Deploying and Serving AI Models on Red Hat AI
Implementa, valida y gestiona los modelos de inteligencia artificial generativa y predictiva en Red Hat AI.
AI0039L - Distributed Inference with Llm-d
Implementa y configura llm-d para la inferencia distribuida en Red Hat OpenShift AI.
AI0033L - Monitoring Deployed Models on Red Hat AI
Supervisa los modelos de inteligencia artificial implementados mediante la recopilación de indicadores, el diseño de paneles y la configuración de alertas en Red Hat AI.
Elige la opción más conveniente para ti. Descubre los cursos y las certificaciones recomendados que se adaptan a tu nivel de experiencia y objetivos profesionales. Consulta los planes de desarrollo de habilidades.
Otras formas de perfeccionar tus habilidades
Obtén lo mejor de ambos mundos: la capacitación virtual impartida por especialistas, el aprendizaje autorregulado, la ayuda de especialistas y un examen de certificación. Todo está incluido en Red Hat Learning Subscription.
Capacitación en las instalaciones disponible
Si deseas capacitar a todo tu equipo, podemos hacerlo en tus instalaciones, de forma presencial o remota.
Red Hat Learning Subscription
Capacitación integral y planes de capacitación sobre los productos de Red Hat, certificaciones reconocidas en el sector y una experiencia de aprendizaje de TI flexible y dinámica.