AI510
Serving Models at Scale with Red Hat AI Enterprise
교육 과정 개요
엔터프라이즈 환경에 AI 모델을 배포하려면 단지 작동하는 프로토타입만으로는 충분하지 않습니다.
조직은 서빙 런타임을 평가하고, 프로덕션 하드웨어에 맞게 모델을 최적화하고, 규모에 맞게 추론을 관리하고, 배포된 모델을 모니터링하여 성능과 안정성을 유지해야 합니다.
Serving Models at Scale with Red Hat AI Enterprise(AI510)에서는 Red Hat OpenShift AI를 사용하여 엔터프라이즈 규모로 AI 모델을 배포, 서빙, 관리하는 방법을 학습합니다. 수강생은 AI 팩토리 프레임워크, vLLM 및 KServe를 사용한 모델 서빙, NVIDIA NIM 마이크로서비스, llm-d를 사용한 분산 추론, Kueue를 사용한 워크로드 스케줄링, 프로덕션 모델 모니터링을 핸즈온 방식으로 경험합니다.
이 교육 과정은 Red Hat OpenShift AI 3.4를 기반으로 합니다.
비즈니스 성과
조직은 AI 모델을 실험 단계에서 대규모 프로덕션 환경으로 전환하는 데 어려움을 겪고 있으며, 이에 따라 가치 창출이 지연되고 인프라 투자를 충분히 활용하지 못합니다. 이 교육 과정은 팀이 Red Hat AI에서 AI 모델을 효율적으로 배포, 최적화, 운영할 수 있도록 지원하여, 프로토타입과 프로덕션 간의 격차를 줄이고 엔터프라이즈 전반에서 안정적이고 비용 효율적인 모델 서빙을 구현할 수 있도록 합니다.
수강생 성과
이 교육 과정을 완료하면 수강생은 Red Hat OpenShift AI에서 vLLM, KServe, NVIDIA NIM을 사용하여 서빙 런타임을 평가하고 생성형 및 예측 AI 모델을 규모에 맞게 최적화하고 배포할 수 있습니다. 또한 분산 추론과 워크로드 스케줄링을 구성하고 프로덕션 환경에 배포된 모델을 모니터링할 수 있습니다.
교육 대상
Red Hat OpenShift AI에서 AI 모델을 규모에 맞게 배포, 서빙, 관리하는 업무를 담당하는 AI 플랫폼 엔지니어, ML 운영 팀, 인프라 관리자
권장 준비 사항
- Red Hat OpenShift 개념에 익숙하거나 Red Hat OpenShift Developer II: Building and Deploying Cloud-native Applications(DO288) 교육 과정 이수
- 대규모 언어 모델, AI/ML 개념, 모델 서빙에 대한 기본적인 이해
- Red Hat OpenShift AI 플랫폼을 처음 접하는 수강생에게는 Developing and Deploying AI/ML Applications on Red Hat OpenShift AI(AI267) 교육 과정을 권장합니다.
Red Hat 교육 또는 자격증에 등록하기 전에 무료 기술 평가를 완료할 것을 권장합니다. 자세히 알아보기.
앞으로 나아갈 길을 찾아보세요. 경험 수준과 커리어 목표에 맞는 권장 교육 과정과 자격증을 살펴보세요. 기술 경로 보기.
기술을 마스터하는 다양한 방법
전문가 주도 가상 교육과 자기 주도식 학습, 전문가의 지원, 자격증 시험 등 두 가지 방식의 장점을 모두 누릴 수 있습니다. Red Hat Learning Subscription에 모두 포함되어 있습니다.
가용한 현장 교육
원하는 때에 팀원 전체를 교육하세요. 대면 교육, 원격 교육 모두 가능합니다.
Red Hat Learning Subscription
Red Hat 제품에 대한 통합 교육 및 학습 경로, 업계에서 인증된 자격증, 유연하고 다이나믹한 IT 학습 경험.
