Konto Anmelden
Jump to section

KI/ML in Red Hat OpenShift

URL kopieren

Red Hat beschleunigt KI/ML-Workflows und die Bereitstellung von KI-basierten intelligenten Anwendungen – mit selbst gemanagtem Red Hat OpenShift oder unserem KI/ML-Cloud-Service.

 

Was ist ein ML-Lifecycle? 

Ein mehrphasiger Prozess, bei dem die Leistung von großen Datenvolumen verschiedenster Art, ausgiebigem Computing und Open-Source-ML-Tools genutzt werden, um intelligente Anwendungen zu entwickeln.

Auf einer übergeordneten Ebene umfasst der Lifecycle vier Schritte:

  1. Erfassung und Vorbereitung von Daten zur Sicherstellung der Vollständigkeit und Qualität der Eingabedaten
  2. Entwicklung von Modellen einschließlich Training, Tests und Auswahl des Modells mit der höchsten Vorhersagegenauigkeit
  3. Integration der Modelle in Anwendungsentwicklungsprozesse und Inferenzen
  4. Überwachung und Verwaltung des Modells zur Messung der Performance und Reaktion auf potenzielle Datenabweichungen in der Produktion

Data Scientists sind in erster Linie für ML-Modellierung verantwortlich und stellen dabei sicher, dass das ausgewählte Modell stets die höchste Genauigkeit bei Vorhersagen bietet.

 

Die größten Herausforderungen für Data Scientists:

  • Auswahl und Bereitstellung der richtigen ML-Tools (darunter Apache Spark, Jupyter NotebookTensorFlow, PyTorch usw.)
  • Komplexität und erforderliche Zeit für Training, Tests, Auswahl und erneutes Training des ML-Modells mit der höchsten Vorhersagegenauigkeit
  • Langsame Ausführung von Modell- und Inferenzaufgaben ohne Hardware-Beschleunigung
  • Wiederholtes Warten auf Provisionierung und Verwaltung der Infrastruktur durch IT-Operations
  • Zusammenarbeit mit Datentechnikern und Softwareentwicklern für die Sicherstellung der Datenhygiene und erfolgreiche Bereitstellung des ML-Modells im Anwendungsentwicklungsprozess

Container und Kubernetes sind entscheidend, wenn es um die Beschleunigung des ML-Lifecycles geht. Diese Technologien bieten Data Scientists die beim Trainieren, Testen und Bereitstellen von ML-Modellen so dringend erforderliche Agilität, Flexibilität, Portierbarkeit und Skalierbarkeit.

Red Hat® OpenShift® ist die branchenführende Hybrid Cloud-Plattform für Container und Kubernetes. Sie bietet nicht nur die oben genannten Vorteile, sondern verfügt auch über integrierte DevOps-Funktionen wie OpenShift Pipelines, OpenShift GitOps und Red Hat Quay und lässt sich in Hardware-Beschleuniger integrieren. Dadurch ermöglicht sie eine bessere Zusammenarbeit zwischen Data Scientists und Softwareentwicklern und beschleunigt die Einführung von intelligenten Anwendungen in der gesamten Hybrid Cloud (in Rechenzentren, Public Clouds und am Edge).

    Unterstützung von Data Scientists

    • Konsistentes Self-Service-Cloud-Erlebnis für Data Scientist in der gesamten Hybrid Cloud
    • Flexibilität und Portierbarkeit für die Nutzung der containerisierten ML-Tools ihrer Wahl zum schnellen Entwickeln, Skalieren, Reproduzieren und Teilen von ML-Modellen
    • Verwendung der relevantesten ML-Tools über Red Hat zertifizierte Kubernetes Operators sowohl für die selbst gemanagte Option als auch über unseren KI-Cloud-Service
    • Kein Warten auf die Provisionierung der Infrastruktur durch IT-Teams für iterative, rechenintensive ML-Modellierungsaufgaben
    • Keine Bedenken hinsichtlich Bindung an bestimmte Cloud-Anbieter mit dem jeweiligen Set an ML-Tools
    • Enge Integration in CI/CD-Tools zur schnellen, iterativen Bereitstellung von ML-Modellen ganz nach Bedarf

     

    Beschleunigung rechenintensiver ML-Modellierungsjobs

    Durch nahtlose Integrationen in beliebte Hardware-Beschleuniger wie NVIDIA GPUs über Red Hat zertifizierte GPU-Operatoren kann OpenShift die hohen Rechenressourcen-Anforderungen problemlos erfüllen. Diese sind für die Auswahl des besten ML-Modells mit der höchsten Vorhersagegenauigkeit sowie für die Ausführung von ML-Inferenzaufgaben erforderlich, wenn das Modell in der Produktion neue Daten verarbeitet.

     

    Entwicklung intelligenter Apps

    Die Ausweitung der DevOps-Automatisierungsmöglichkeiten von OpenShift auf den ML-Lifecycle unterstützt die Zusammenarbeit zwischen Data Scientists, Software-Entwicklern und dem IT-Operations-Team. So können ML-Modelle schneller in die Entwicklung intelligenter Anwendungen integriert werden. Außerdem wird dadurch die Produktivität gefördert und das Lifecycle-Management von ML-basierten intelligenten Anwendungen vereinfacht.

    • Entwicklung aus der Registry der Container-Modell-Images mit OpenShift Build
    • Kontinuierliche iterative Entwicklung von auf intelligenten Anwendungen basierenden ML-Modellen mit OpenShift Pipelines
    • Kontinuierliche Bereitstellungsautomatisierung der auf intelligenten Anwendungen basierenden ML-Modelle mit OpenShift GitOps
    • Image-Repository zur Versionsverwaltung von Container-Modell-Images und Microservices mit Red Hat Quay

    OpenShift unterstützt Unternehmen verschiedenster Branchen dabei, die geschäftliche Weiterentwicklung und geschäftskritische Initiativen zu beschleunigen – durch die Entwicklung intelligenter Anwendungen in der Hybrid Cloud. Die Use Cases umfassen etwa Betrugserkennung, datengestützte Diagnostik und Heilung, vernetzte Autos, autonomes Fahren, Erdöl- und Erdgaserschließung, automatisierte Versicherungsangebote und Schadensabwicklung.

    Analystenbericht: Open Source- und cloudbasierte Software zur Unterstützung von KI-Initiativen

    Success Story: HCA Healthcare nutzt innovative Datenplattform, um Leben zu retten

    Video: BMW ConnectedDrive mit Red Hat OpenShift

    Red Hat Decision Manager ist eine cloudnative Plattform für Geschäftsregeln und -entscheidungen, mit der sich ML-Modelle in Entscheidungsmodelle integrieren lassen. Diese Modelle können dann als Microservices auf OpenShift für Inferenzen verfügbar gemacht werden. Die Integration in Monitoring-Tools wie Prometheus und Grafana ermöglicht anschließend die Überwachung und Verwaltung der (Business) Performance der ML-Modelle in der Produktion.

    Weitere Informationen zu Red Hat Decision Manager finden Sie auf der entsprechenden Produktseite oder der Red Hat Developer Website.

    Red Hat Data Services wurde entwickelt, um Storage-Anforderungen im Petabyte-Bereich im ML-Lifecycle abzudecken – von der Datenaufnahme und -vorbereitung über die ML-Modellierung bis hin zur Inferenzphase. Das Portfolio von Red Hat Data Services beinhaltet auch Red Hat Ceph Storage, ein Open-Source-SDS-System (Software-Defined Storage), das umfassenden Support für Object, Block und File Storage für Amazon S3 bietet, und auf branchenüblicher Standard-Hardware enorme Skalierbarkeit ermöglicht.

    So können Sie beispielsweise skalierbaren Ceph Storage für containerisierte Jupyter Notebooks auf OpenShift über S3 oder persistente Volumes nutzen.

    Beim Open Data Hub-Projekt handelt es sich um eine funktionale Architektur, die auf Red Hat OpenShift, Red Hat Ceph Storage, Red Hat AMQ Streams und mehreren Upstream-Open-Source-Projekten basiert, um eine offene ML-Plattform mit den notwendigen ML-Tools zu entwickeln.

    Weitere Informationen zu Open Data Hub finden Sie in den Blogs und den folgenden Ressourcen für Ihren Einstieg.

    Mehr erfahren

    E-Book

    Wichtige Überlegungen bei der Erstellung einer produktionsbereiten KI/ML-Umgebung

    Lerninhalte

    Interaktives Lernportal

    KI und Machine Learning auf OpenShift

    Ein Tool für Entwickler und Data Scientists

    OpenShift Data Science logo

    Red Hat® OpenShift® Data Science ist ein gemanagter Cloud-Service für Data Scientists und Entwickler intelligenter Anwendungen. Er bietet eine vollständig unterstützte Sandbox, in der ML-Modelle (Machine Learning) im Handumdrehen in der Public Cloud entwickelt, trainiert und getestet werden können, bevor sie in der Produktionsumgebung bereitgestellt werden.

    Illustration - mail

    Möchten Sie mehr zu diesen Themen erfahren?

    Abonnieren Sie unseren kostenlosen Newsletter, Red Hat Shares.