AI510

Serving Models at Scale with Red Hat AI Enterprise

Auswirkungen

Kursbeschreibung 

Das Deployment von KI-Modellen in Unternehmensumgebungen erfordert mehr als einen funktionsfähigen Prototyp.

Unternehmen müssen Bereitstellungs-Runtimes bewerten, Modelle für die Produktionshardware optimieren, die Inferenz in großem Umfang verwalten und die bereitgestellten Modelle überwachen, um Performance und Zuverlässigkeit aufrechtzuerhalten.

Im Kurs Serving Models at Scale with Red Hat AI Enterprise (AI510) lernen Kursteilnehmende, wie sie KI-Modelle mithilfe von Red Hat OpenShift AI unternehmensweit bereitstellen, einsetzen und verwalten können. Die Kursteilnehmenden sammeln praktische Erlebnisse mit dem KI-Fabrik-Framework, der Modellbereitstellung mit vLLM und KServe, den NVIDIA NIM-Microservices, der verteilten Inferenz mit llm-d, der Workload-Planung mit Kueue und der Überwachung von Produktionsmodellen.

Dieser Kurs basiert auf Red Hat OpenShift AI 3.4.

Ergebnisse für das Unternehmen 

Unternehmen fällt es schwer, KI-Modelle in großem Umfang von der Testphase in den Produktivbetrieb zu überführen. Dies führt zu einer verzögerten Wertschöpfung und zu einer unzureichenden Auslastung der Infrastrukturinvestitionen. Mit diesem Kurs können Teams KI-Modelle effizient auf Red Hat AI bereitstellen, optimieren und ausführen, um die Lücke zwischen dem Prototyp und der Produktion zu verringern und eine zuverlässige, kostengünstige Modellbereitstellung im gesamten Unternehmen zu ermöglichen.

 Ergebnisse für Teilnehmende 

Nach Abschluss können Teilnehmende dieses Kurses Bereitstellungs-Runtimes evaluieren sowie generative und prädiktive KI-Modelle in großem Umfang mit vLLM, KServe und NVIDIA NIM auf Red Hat OpenShift AI optimieren und bereitstellen. Außerdem können sie verteilte Inferenz- und Workload-Planungen konfigurieren und bereitgestellte Modelle in der Produktion überwachen.

 Vorbereitung

Zielgruppen

KI-Platform Engineers, ML-Operations-Teams und Infrastrukturadministrationsteams, die für das Deployment, die Bereitstellung und Verwaltung von KI-Modellen in großem Umfang auf Red Hat OpenShift AI verantwortlich sind. 

Empfohlene Vorbereitung

  • Vertrautheit mit den Konzepten von Red Hat OpenShift oder Abschluss von Red Hat OpenShift Developer II: Building and Deploying Cloud-native Applications (DO288) erforderlich
  • Grundlegendes Verständnis von Large Language Models, KI/ML-Konzepten und Modellbereitstellung
  • Der Kurs Developing and Deploying AI/ML Applications on Red Hat OpenShift AI (AI267) wird für Teilnehmende empfohlen, die mit der Plattform von Red Hat OpenShift AI noch nicht vertraut sind. 

 

Wir empfehlen, unseren kostenlosen Einstufungstest durchzuführen, bevor Sie sich für Red Hat Training oder Zertifizierung anmelden.  Mehr erfahren

 Nächste Schritte

Finden Sie Ihren Weg in die Zukunft. Informieren Sie sich über empfohlene Kurse und Zertifizierungen, die Ihrem Erfahrungsniveau und Ihren Karrierezielen entsprechen. Lernpfade anzeigen

Wählen Sie Ihren Standort aus

Mehr erfahren

Mehr Möglichkeiten zur Weiterentwicklung Ihrer Kompetenzen

Das Beste aus beiden Welten: von Expertinnnen und Experten geleitetes virtuelles Training und selbstbestimmtes Lernen, dazu fachkundige Unterstützung und eine Zertifizierungsprüfung. All das ist in der Red Hat Learning Subscription enthalten.

Onsite-Training verfügbar

Wenn Ihr gesamtes Team geschult werden soll, können wir das Training bei Ihnen vor Ort durchführen – als Remote- oder Präsenzschulung.

Red Hat Learning Subscription

Umfassende Trainings und Lernpfade zu Produkten von Red Hat, branchenweit anerkannte Zertifizierungen und ein flexibles, dynamisches IT-Lernerlebnis.