AI501

교육 과정 개요

팀이 프로덕션 환경에서 생성형 AI 애플리케이션을 안정적이고 효율적으로 빌드, 배포, 유지 관리할 수 있도록 지원하는 사례, 문화, 툴을 경험합니다.

GenAIOps Enablement with Red Hat AI Enterprise(AI501)는 Red Hat 방식으로 제공되는 5일간의 몰입형 교육 과정으로, 팀이 AI 비전을 구체화하고 실현하는 데 필요한 기술 역량을 기를 수 있도록 지원합니다. 많은 AI 교육 프로그램이 특정 프레임워크나 기술에 중점을 두는 반면, 이 교육 과정에서는 모델만이 아닌 AI 지원 애플리케이션을 하나의 제공 단위로 취급하면서 툴들이 전체 생성형 AI 운영 워크플로우 내에서 연결되어 작동하는 방법을 다룹니다.

학습 목표를 달성하려면 조직 전체에서 각기 다른 역할을 수행하는 다양한 참가자가 교육에 참여해야 합니다. AI 엔지니어, 애플리케이션 개발자, 플랫폼 엔지니어, 아키텍트, IT 관리자는 기존의 사일로를 뛰어넘어 협업하는 경험을 할 수 있습니다. 일상적인 업무를 통해 실제 제공 팀이 AI 기반 애플리케이션을 빌드하는 작업을 시뮬레이션하며, 다양한 부문의 팀이 협업을 통해 혁신을 촉진하는 방법을 학습합니다. 경험을 공유하고 모범 사례를 익힌 팀은 교육 과정에서 배운 내용을 실무에 적용하여 생성형 AI 이니셔티브를 추진하는 과정에서 조직의 문화와 미션을 성공으로 이끌 수 있습니다.

이 교육 과정은 Red Hat OpenShift AI가 포함된 Red Hat AI Enterprise는 물론, Red Hat OpenShift GitOps, Red Hat OpenShift Pipelines, 생성형 AI 모델, 오픈소스 라이브러리를 기반으로 합니다.

교육 과정 내용 요약

이 교육 과정에서는 즉각적인 실험에서 프로덕션 배포에 이르기까지 AI 지원 애플리케이션의 엔드 투 엔드 여정을 안내하는 동시에 다양한 유형의 사용자가 단일 플랫폼에서 원활하게 협업하는 방법에 대해 학습합니다.

• 토큰, 컨텍스트 창, 모델 동작 등 생성형 AI 기본 사항에 대한 이해
• 프롬프트 실험 및 첫 번째 AI 지원 애플리케이션 평가
• 표준화된 생성형 AI 개발을 위한 오케스트레이션 계층 도입
• 지식 기반 애플리케이션을 위한 검색 증강 생성(RAG) 구현
• 툴 호출 기능을 통한 자율형 AI 에이전트 구축
• AI 안전 가드레일 배포 및 생성형 AI 보안 사례 구현
• 생성형 AI 시스템에 대한 메트릭, 로깅, 분산 추적을 통한 관측성 지원
• 소규모 언어 모델 및 멀티모달 기능 탐색
• 양자화 및 압축 기술을 통한 모델 최적화
• 확장 가능한 AI 인프라를 위한 Models-as-a-Service(MaaS) 구현

교육 대상

이 경험은 조직 내에서 각기 다른 역할을 수행하는 각 개인이 긍정적인 결과를 얻고 생성형 AI 혁신을 가속화하기 위해 공동의 목표를 공유하고 협업하며 보조를 맞출 수 있는 방법을 보여줍니다.

이 교육 과정은 특히 다음 역할에 권장됩니다.

• AI Platform 사용자: 생성형 AI 애플리케이션을 빌드하는 AI 엔지니어, 애플리케이션 개발자, 데이터 사이언티스트, 데이터 엔지니어
• AI 플랫폼 공급업체: AI 인프라를 배포하고 관리하는 ML/GenAIOps 엔지니어 및 플랫폼 엔지니어
• AI 플랫폼 이해관계자: 생성형 AI 도입 전략을 평가하고 감독하는 아키텍트 및 IT 관리자

이 시나리오는 대규모 언어 모델 및 생성형 AI 시스템 작업의 기술적 측면들을 통합하여 이러한 역할들이 작업을 조정하는 방법에 대한 실용적인 인사이트를 제공합니다.

전제 조건

• 무료 평가를 통해 이 교육 과정이 기술 향상에 가장 적합한 과정인지 확인합니다.
• Chromium 기반 브라우저
• Containers, Kubernetes and Red Hat OpenShift Technical Overview(DO080) 교육 과정을 수강했거나 OpenShift, 쿠버네티스 및 컨테이너에 대한 기본적인 지식을 갖추고 있다면 도움이 됩니다.
• AI에 대한 기초적인 지식 또는 조직의 비즈니스가 AI로부터 가치를 창출할 수 있는 방법에 대한 기본적인 이해를 갖추고 있으면 좋습니다.

교육 과정 내용

핵심 기반

• 생성형 AI 기본 사항

  GenAIOps가 무엇인지 알아보고 토큰화, 컨텍스트 창, 그리고 모델 동작 및 성능에 영향을 미치는 요인을 포함하여 대규모 언어 모델이 작동하는 방식을 살펴봅니다.

• 프롬프트 실험

  시스템 프롬프트와 사용자 프롬프트를 사용하여 효과적인 프롬프트를 만들고, 온도 및 출력 매개 변수를 구성하고, 특정 활용 사례에 맞게 프롬프트를 최적화하는 방법을 학습합니다.

• 첫 번째 AI 지원 애플리케이션 평가

  프롬프트 버전 관리를 구현하고, 평가 파이프라인을 구축하고, 테스트를 자동화하고, 애플리케이션 품질을 체계적으로 측정합니다.

• 오케스트레이션 계층 도입

  생성형 AI 애플리케이션 빌드를 위한 오케스트레이션 계층을 도입하고, 백엔드 서비스를 배포하고, 지속적 배포를 위한 GitOps 사례를 구현합니다.

고급 토픽

• 통합 및 오케스트레이션

  벡터 데이터베이스를 배포하고, 지식 기반 애플리케이션을 위한 RAG 파이프라인을 구축하고, 툴 호출을 구현하고, 자율형 AI 에이전트를 생성합니다.

• 안전 및 관측성

  AI 안전 가드레일을 배포하고, 생성형 AI 보안 사례를 구현하고, 메트릭, 로그, 추적 등 관측성의 3가지 요소를 활성화합니다.

• 모델링 기술

  효율적인 배포를 위한 소규모 언어 모델과 다양한 입력 유형을 처리하기 위한 멀티모달 모델 기능을 살펴봅니다.

• 최적화 및 배포

  성능 개선을 위해 양자화 및 압축 기술을 적용하고, 미세 조정(fine-tuning) 접근 방식을 탐색하고, Models-as-a-Service(MaaS)를 구현하고, 이 모든 것을 프로덕션 배포 단계에서 통합합니다.

조직에 미치는 효과

• 많은 조직이 운영 복잡성과 팀 전반의 무분별한 툴 확산, 일관성 없는 출력으로 이어지는 프롬프트 및 구성 드리프트, 변경 시 발생하는 품질 저하, 할루시네이션을 유발하는 관리되지 않는 그라운딩, 프롬프트 인젝션 및 유해 콘텐츠로 인한 안전 리스크, 그리고 확장을 가로막는 예측할 수 없는 대기 시간과 비용 문제에 직면하고 있습니다. GenAIOps는 표준화, 프롬프트와 구성의 코드화, 지속적인 자동 평가, 제어형 RAG, 플랫폼에서 적용되는 가드레일, 엔드 투 엔드 관측성 등을 통해 이러한 문제를 해결합니다.
• 이 교육 과정에서는 실제 GenAIOps 문화 원칙과 현대적인 사례를 소개합니다. 수강자는 프롬프트 및 구성 버전 관리에서 배포, 지속적인 평가, Day 2 오퍼레이션에 이르기까지 AI 지원 애플리케이션 라이프사이클을 엔드 투 엔드로 경험할 수 있습니다. 이 교육 과정은 GenAIOps 원칙을 적용하고 Red Hat AI Enterprise를 활용하여 조직 내에서 생성형 AI 트랜스포메이션 이니셔티브를 주도할 수 있도록 하는 것을 목표로 합니다.

개인에게 미치는 효과

• 이 교육 과정을 이수하면 생성형 AI 플랫폼에 익숙해지고, GenAIOps 에코시스템 내에서 Red Hat AI Enterprise가 어떤 역할을 하는지 이해하고, AI 지원 애플리케이션 라이프사이클을 처음부터 끝까지 경험할 수 있습니다. AI 지원 애플리케이션을 규모에 맞게 빌드, 제공, 실행하기 위한 실무 패턴을 습득하고, 애플리케이션을 프로토타입에서 프로덕션 단계까지 진행하고, 애플리케이션의 안정성을 유지하는 방법을 학습합니다.

권장되는 다음 교육 과정 또는 시험

• MLOps Practices with Red Hat OpenShift AI(AI500): 예측 AI와 머신 러닝 모델을 다루는 팀을 위한 과정
• Red Hat OpenShift Administration II: Configuring a Production Cluster(DO280): 심층적인 OpenShift 전문 지식을 추구하는 플랫폼 엔지니어를 위한 과정