AI010
Red Hat AI Inference Server Technical Overview
Red Hat AI 추론 서버로 AI 워크로드를 최적화하고 비용을 절감하세요.
교육 과정 개요
- 이 Red Hat AI Inference Server 기술 개요를 통해 AI 배포에 반드시 필요한 인사이트를 확보합니다. 프로덕션 단계에서 AI 모델을 실행하는 데 따른 복잡성과 비용을 해결하는 방법을 알아봅니다. vLLM으로 구동되는 Red Hat의 솔루션이 클라우드, 온프레미스, 가상화 및 엣지 환경 전반에서 성능을 최적화하고 상당한 비용 절감 효과를 제공하는 방법을 살펴봅니다. 양자화와 추측 디코딩 같은 AI 추론 역량을 강화하기 위한 고급 기술에 대해 자세히 알아봅니다. 이 온디맨드 동영상 콘텐츠는 OpenShift AI 내의 원활한 모델 배포 및 관리를 보여주고, AI 워크로드를 위한 탁월한 효율성과 유연성을 확보하는 방법을 소개합니다.
교육 과정 내용 요약
- 추론이란?
- 추론 관련 과제
- Red Hat AI Inference Server 솔루션
- Red Hat AI 포트폴리오 통합
- 배포의 유연성
- LLM 압축 툴(양자화)
- 성능 최적화 기술(kV 캐시, 추측 디코딩, 텐서 병렬 추론)
- 고객 사례
- 모델 배포 및 관리
- 모델의 스토리지 연결
- 메트릭과 모니터링
- Hugging Face 통합
교육 대상
- AI/ML 엔지니어 및 실무자
- DevOps 엔지니어
- 클라우드 아키텍트 및 엔지니어
- 기술 의사결정자
권장 교육
- 이 기술 개요는 아무런 선행 조건 없이 이용하실 수 있습니다.
교육 과정 내용
- 추론이란?
- 추론 관련 과제
- Red Hat AI Inference Server 솔루션
- Red Hat AI 포트폴리오 통합
- 배포의 유연성
- LLM 압축 툴(양자화)
- 성능 최적화 기술(kV 캐시, 추측 디코딩, 텐서 병렬 추론)
- 고객 사례
- 모델 배포 및 관리
- 모델의 스토리지 연결
- 메트릭과 모니터링
- Hugging Face 통합
권장되는 다음 교육 과정 또는 시험
기술을 마스터하는 다양한 방법
전문가 주도 가상 교육과 자기 주도식 학습, 전문가의 지원, 자격증 시험 등 두 가지 방식의 장점을 모두 누릴 수 있습니다. Red Hat Learning Subscription에 모두 포함되어 있습니다.
가용한 현장 교육
원하는 때에 팀원 전체를 교육하세요. 대면 교육, 원격 교육 모두 가능합니다.
Red Hat Learning Subscription
Red Hat 제품에 대한 통합 교육 및 학습 경로, 업계에서 인증된 자격증, 유연하고 다이나믹한 IT 학습 경험.
