AI510
Serving Models at Scale with Red Hat AI Enterprise
Descripción del curso
La implementación de modelos de inteligencia artificial en entornos empresariales exige mucho más que un prototipo funcional.
Las empresas deben evaluar los tiempos de ejecución de la distribución, optimizar los modelos para el hardware de producción, gestionar las inferencias a gran escala y supervisar los modelos implementados para mantener los niveles de rendimiento y confiabilidad.
En el curso Serving Models at Scale with Red Hat AI Enterprise (AI510), los estudiantes aprenderán a implementar, distribuir y gestionar modelos de inteligencia artificial para empresas utilizando Red Hat OpenShift AI. Los estudiantes adquirirán experiencia práctica con el marco AI Factory, la distribución de modelos con vLLM y KServe, los microservicios de NVIDIA NIM, la inferencia distribuida con llm-d, la programación de cargas de trabajo con Kueue y la supervisión de modelos de producción.
El curso se basa en Red Hat OpenShift AI 3.4.
Resultados para las empresas
Las empresas tienen dificultades para trasladar los modelos de inteligencia artificial de la etapa de experimentación a la de producción a gran escala, lo que genera demoras en la obtención de resultados e inversiones en infraestructura desaprovechadas. Este curso prepara a los equipos para que implementen, optimicen y utilicen los modelos de inteligencia artificial de manera eficiente en Red Hat AI. De este modo, se reduce la brecha entre la creación de prototipos y la producción y se facilita la distribución confiable y rentable de los modelos en toda la empresa.
Resultados para los estudiantes
Después de completar este curso, los estudiantes podrán evaluar los tiempos de ejecución de la distribución de modelos, optimizar e implementar modelos de inteligencia artificial generativa y predictiva a gran escala con vLLM, KServe y NVIDIA NIM en Red Hat OpenShift AI. También podrán configurar la inferencia distribuida y la programación de las cargas de trabajo, así como supervisar los modelos implementados en la fase de producción.
Público destinatario
Los ingenieros de plataformas de inteligencia artificial, los equipos de operaciones de machine learning (aprendizaje automático) y los administradores de infraestructura responsables de implementar, distribuir y gestionar los modelos de inteligencia artificial a gran escala en Red Hat OpenShift AI.
Preparación recomendada
- Se recomienda tener conocimientos de Red Hat OpenShift o haber completado el curso Red Hat OpenShift Developer II: Building and Deploying Cloud-native Applications (DO288).
- Se recomienda tener conocimientos básicos de los modelos de lenguaje de gran tamaño, los conceptos de inteligencia artificial/machine learning y la distribución de modelos.
- Se recomienda el curso Developing and Deploying AI/ML Applications on Red Hat OpenShift AI (AI267) a los estudiantes que recién comienzan a utilizar la plataforma Red Hat OpenShift AI.
Recomendamos completar nuestra evaluación de habilidades sin costo antes de inscribirse en cualquier capacitación o certificación de Red Hat. Obtén más información.
Elige la opción más conveniente para ti. Descubre los cursos y las certificaciones recomendados que se adaptan a tu nivel de experiencia y objetivos profesionales. Consulta los planes de desarrollo de habilidades.
Otras formas de perfeccionar tus habilidades
Obtén lo mejor de ambos mundos: la capacitación virtual impartida por especialistas, el aprendizaje autorregulado, la ayuda de especialistas y un examen de certificación. Todo está incluido en Red Hat Learning Subscription.
Capacitación en las instalaciones disponible
Si deseas capacitar a todo tu equipo, podemos hacerlo en tus instalaciones, de forma presencial o remota.
Red Hat Learning Subscription
Capacitación integral y planes de capacitación sobre los productos de Red Hat, certificaciones reconocidas en el sector y una experiencia de aprendizaje de TI flexible y dinámica.
