Red Hat Consulting: AI Platform Foundation

Führungskräfte sämtlicher Branchen nutzen generative KI (gen KI), um Prozesse umzugestalten und neue Kundenerlebnisse zu schaffen. Red Hat verfügt über eine der führenden Open Hybrid Cloud-Plattformen, die Unternehmen beim Entwickeln, Bereitstellen und Verwalten moderner KI-Anwendungen unterstützt – vom Rechenzentrum bis hin zu Cloud-Umgebungen.

Wenn KI-Anwendungen von der Pilotphase in die Produktion übertragen werden, ergeben sich jedoch besondere Herausforderungen. Dazu zählen etwa einschränkende GPU-Kosten (Graphics Processing Unit), komplexe Anforderungen bei der Modellbereitstellung und inkonsistente Entwicklungsumgebungen, die ein wiederholbares Fine Tuning und Deployment von Large Language Models (LLMs) behindern.

Damit Sie diese Herausforderungen besser bewältigen können, hat Red Hat mit Red Hat® AI eine flexible End-to-End-Plattform mit Open Source-Tools für den gesamten LLMOps-Lifecycle entwickelt – von der Datenvorbereitung und dem Fine Tuning der Modelle bis hin zu skalierbaren Inferenzen und Monitoring. Neben diesen Tools umfasst die Plattform zudem Red Hat AI Inference Server, Red Hat OpenShift® AISeite verfügbar in Englisch (Deutsch ist nicht verfügbar) und Red Hat Enterprise Linux® AI. Red Hat Consulting: AI Platform Foundation unterstützt Kunden bei der Entwicklung von LLMOps-Strategien und der erforderlichen KI-Plattform, um generative KI-Anwendungen schnell zu operationalisieren und greifbare Geschäftsergebnisse zu erzielen.

Mit dem Projekt AI Platform Foundation will Red Hat Consulting Kunden dabei unterstützen, ihre Red Hat AI Investitionen schnell bereitzustellen und einzuführen sowie gleichzeitig bestehende KI-Praktiken weiterzuentwickeln. Eine zentrale Plattform bietet Nutzenden Zugriff auf standardisierte Libraries und Tools, erhöhte Rechenleistung, die Fähigkeit zu effektiverer Zusammenarbeit sowie ein besseres Onboarding von Data Scientists, AI Engineers und anderen Nutzenden.

Im Rahmen eines solchen Projekts setzen sich Expertinnen und Experten von Red Hat mit den Teams eines Unternehmens zusammen, um die aktuellen Umgebungen und Ansätze zu bewerten und zukünftige Anforderungen zu identifizieren. Die Red Hat AI Plattform wird nach einem GitOps-Ansatz bereitgestellt, gemanagt und mit anderen Tools der Kundenumgebung integriert, um eine robuste End-to-End-Plattform zu erstellen.

Architektur-Sessions

Die Consultants von Red Hat bieten ein praktisches Trainingserlebnis mit einem Fokus auf Deployments in mehreren Clustern – wie etwa Entwicklungs-, Test- und Produktions-Cluster. Dies kann auf Endbenutzende wie Data Scientists, AI Engineers und Application Developers ausgeweitet werden.

Wir beginnen mit Architektur-Sessions, bei denen wir kritische Integrationspunkte in den bestehenden Systemen identifizieren und ermitteln, welche zusätzlichen Tools für die kundenspezifischen Anforderungen erforderlich sind. Red Hat Consulting unterstützt Kunden in diesem Rahmen dabei, die für ihre jeweilige KI-Plattform notwendigen Tools und Modelle auszuwählen. Außerdem führen unsere Expertinnen und Experten eine Überprüfung der Architektur durch, damit sie die Umgebung des Kunden besser verstehen und so feststellen können, wie Red Hat AI genutzt und eingeführt werden soll. 

Zusammenarbeit mit Teams

Im Anschluss an diese Sessions arbeiten die Consultants von Red Hat mit den Teams zusammen, um sie bei der Bereitstellung und Konfiguration der Drittanbietertools zu unterstützen, die in den Architektur-Sessions festgelegt wurden. In dieser Phase bietet Red Hat Consulting Unterstützung in folgenden Bereichen: 

• Zusammenarbeit zur Festlegung von größenmäßig passenden Konfigurationen, der Integration in Datensysteme und der Konfiguration von Hardwarebeschleunigern wie GPUs
• Unterstützung bei der Bereitstellung, Konfiguration und Integration von Drittanbietertools
• Integration bestehender Plattform-Funktionen (wie Serverless, GitOps, Pipelines) zur Unterstützung von Plattformanforderungen

Individuelle Anpassung

Red Hat weiß, dass verschiedene Kunden unterschiedliche Geschäftsziele verfolgen. Daher stimmen wir die Komponenten basierend auf den Architektur-Sessions auf das jeweilige Projekt ab, und zwar mit Schwerpunkt auf: 

• Entwicklung benutzerdefinierter Pipelines für Modelltraining, Modellbereitstellung und Datenintegration
• Erstellung von Pipelines zur Bereitstellung benutzerdefinierter Notebooks
• Einführung von Models as a Service (MaaS)
• Erstellung von Pipelines zum Benchmarking und zur Genauigkeitsbewertung eines Modells

Für Red Hat ist es im Rahmen des Projekts von fundamentaler Priorität, Teams von Cluster-Administration, Infrastruktur und Data Science besser zu vernetzen. Red Hat arbeitet direkt mit beiden Unternehmen zusammen und bietet den Teams Support, um nicht nur den aktuellen Zustand beizubehalten, sondern auch die Grundlagen für zukünftige Anforderungen zu schaffen.

Nachdem das Projekt AI Platform Foundation eingerichtet wurde, hilft Red Hat beim Onboarding von Data Scientists und AI Engineers. Gemeinsam werden individuelle Anpassungen entwickelt, um das Benutzererlebnis dieser Teams zu verbessern.

Kriterien

Red Hat bietet Ihnen die passende Unterstützung – unabhängig davon, an welchem Punkt der Einführung von generativer KI Ihr Team gerade steht. Für Kunden, die über das Testen von Modellen hinausgehen wollen und bereit sind, Strategien für den Einsatz der Modelle in der Produktion zu erstellen, ist Red Hat Consulting: Operationalizing AI ein hilfreiches Folgeprojekt von AI Platform Foundation.

Red Hat Services umfasst die Bereiche Red Hat Consulting, Red Hat Training and Certification sowie Red Hat Technical Account Management (TAM) und stellt Kunden so ganzheitlichen Support und umfassende Anleitungen für die Entwicklung moderner Cloud-Anwendungen bereit. 

Consulting: Mit praktischem Mentoring ermöglichen die Consultants von Red Hat den Aufbau von Kompetenzen und ermutigen unabhängiges Arbeiten. Gleichzeitig optimieren sie Prozesse, stimmen Teams aufeinander ab und sorgen dafür, dass Systeme und Anwendungen gut zusammenarbeiten.

Training: Unterstützt Teams dabei, Kompetenzlücken zu schließen und die Expertise zu Produkten von Red Hat zu verbessern. Dabei erwerben die Beschäftigten rollenbasiertes, praktisches Wissen zu neuen und grundlegenden Open Source-Technologien. Sehen Sie sich unser umfassendes Kursangebot zu Red Hat AI an. 

Red Hat TAMs: TAMs lösen gemeinsam mit Ihrem Unternehmen potenzielle Probleme, bevor sie auftreten. Dadurch minimieren sie mögliche Unterbrechungen und sorgen dafür, dass Sie sich ganz auf Ihre wichtigen geschäftlichen Herausforderungen konzentrieren können.

Die Bemühungen von Red Hat zielen darauf ab, dass Kunden nicht nur ihr erstes KI/ML-Modell bereitstellen, sondern eine Basis für ihre KI/ML-Systeme erstellen. Durch die Entwicklung eines wiederverwendbaren Musters für das Training und den Einsatz eines KI/ML-Modells als produktionsreife Lösung versucht Red Hat, Kunden für die erfolgreiche Bereitstellung zukünftiger KI/ML-Projekte aufzustellen. 

Mit einem GitOps-Ansatz kann Red Hat Consulting Sie dabei unterstützen, Data Science-Projekte zu provisionieren und KI/ML-Modelle schneller zu entwickeln, zu trainieren, zu testen, bereitzustellen und zu überwachen. Außerdem können Sie damit eine konsistente Übertragung der Modelle in die Produktion erreichen – von der Hybrid Cloud bis hin zu Edge-Umgebungen und von cloudbasierten Clustern bis hin zu vollständig unabhängigen On-Premise-Umgebungen.

Sie interessieren sich für die KI-Services, die Red Hat bietet? Wenden Sie sich an Ihr Red Hat Account-Team oder sprechen Sie mit einem Consultant.