Zero Trust MLOps mit OpenShift Platform Plus

Künstliche Intelligenz (KI) hat sich aufgrund des zunehmenden Datenvolumens, das von den zentralen Rechenzentren bis zum Edge generiert wird, zu einer der wichtigsten Prioritäten für Unternehmen entwickelt. Ebenso hat die Einführung von Kubernetes in den letzten zehn Jahren zu einer verbesserten Skalierbarkeit, Zuverlässigkeit und Resilienz in Unternehmen geführt.

Trotz der enormen Vorteile, die Kubernetes mit sich bringt, stellen die operative Verwaltung und Sicherheit weiterhin eine Herausforderung dar. Die Verwaltung der Integrität der Softwarelieferkette, die Überwachung der Sicherheit von Container Images und Runtime-Umgebungen sowie die Durchsetzung von Compliance-Richtlinien können überwältigend sein.

Unternehmen stehen häufig vor der Herausforderung, Use Cases für KI und Machine Learning (KI/ML) für eine unternehmensweite Einführung zu skalieren. Mit MLOps können Teams Infrastruktur provisionieren, Modelle bereitstellen, Abhängigkeiten verwalten, den Aufruf der Modelle orchestrieren und KI-Modelle auf skalierbare Weise bereitstellen, um die Wertschöpfung von KI/ML-Anwendungen für Unternehmen zu beschleunigen. MLOps hat mit der Einführung von Kubernetes für Datenmodelle ähnlich an Dynamik gewonnen wie DevOps für die App-Entwicklung und bietet Selbstreparatur, automatische Skalierbarkeit, automatisierte Pipeline und viele weitere Funktionen.

Ein MLOps-Prozess besteht aus fünf wesentlichen Schritten:

1. Datenbeschaffung aus verschiedenen Quellen
2. Datenoptimierung und Datenvalidierung:
3. Datenmodelltraining
4. Modelle in großem Umfang bereitstellen, um KI-Anwendungen zu ermöglichen
5. Kontinuierliche Überwachung und Änderung von Modellen und KI-Anwendungen

Red Hat OpenShift AI basiert auf Open Source-Technologien und bietet eine flexible und skalierbare MLOps-Plattform sowie Tools zum Entwickeln, Bereitstellen und Verwalten von KI-gestützten Anwendungen. Sie vereint leistungsstarke Tools, mit denen das Fine Tuning und die Bereitstellung von Basismodellen nahtlos, skalierbar und effizient gestaltet wird und der End-to-End-Data-Science-Prozess von der Modellentwicklung bis zum Deployment vereinfacht wird.

Red Hat OpenShift Platform Plus dient als Basis für MLOps und bietet eine gemeinsame Umgebung für Data Scientists, Analysten, Operations-Teams und Entwickler, die zu einem Return on Investment von 210 % und 20 % verbesserter Effizienz von Data Scientists führt. OpenShift AI und OpenShift Platform Plus bieten eine sicherere Open Hybrid Cloud-Plattform für die Ausführung von Data Science-Modellen und ermöglicht strengere Kontrollen in Bezug auf Anwendungsentwicklung, Modellherkunft, Governance und Runtime-Bedrohungserkennung.

Kubernetes-Fehlkonfigurationen sind ernsthafte Bedrohungen für containerisierte KI-Workloads, da Cyberkriminelle diese Einstellungen ausnutzen können, um in die Unternehmen einzudringen (z. B. um einen anonymen Zugriff mit hohen Berechtigungen zu ermöglichen oder um Zugriff auf Daten zu erhalten, auf die Nutzende nicht zugreifen dürfen). Die Sicherheit von Datenmodellen muss in der MLOps-Pipeline schon früh berücksichtigt werden und sollte nicht ein Nachgedanke sein. OpenShift Platform Plus reduziert zusammen mit seinem Partnernetzwerk die Komplexität, indem es Sicherheitsrichtlinien durchsetzt und eine Zero-Trust-Architektur für die Ausführung von KI-Modellen auf der Plattform bereitstellt.

Im Folgenden werden 12 Aspekte von OpenShift Platform Plus beschrieben, die dies ermöglichen:

1. Red Hat Enterprise Linux CoreOS: OpenShift wird auf Red Hat Enterprise Linux CoreOS ausgeführt und bietet die gleichen umfangreichen automatisierten und Remote-Upgrade-Funktionen wie Red Hat Enterprise Linux (RHEL) und verbessert gleichzeitig die Sicherheit und das IT-Erlebnis für Entwickler, Data Scientists und das Operations-Team.
2. Role Based Access Control (RBAC): RBAC ermöglicht eine detaillierte Kontrolle darüber, wer über verschiedene Zugriffsstufen auf den Cluster verfügt. Dadurch können strenge Grenzen zwischen verschiedenen Projekten definiert und ein unbefugter Zugriff auf Ressourcen blockiert werden.
3. Audit und Überwachung: OpenShift bietet die Möglichkeit, den Cluster auf verschiedene Weise zu prüfen und zu überwachen, einschließlich Metriken, Alarmen, Protokollen, Dashboards usw.
4. Kontextbasierte Zugriffskontrolle: Red Hat Single Sign-On (SSO) ist in OpenShift enthalten und bietet Identity Federation basierend auf SAML 2.0, OpenID Connect und OAuth 2.0.
5. Multi-Faktor-Authentifizierung: OpenShift unterstützt mehrere Identitätsanbieter, einschließlich Active Directory, LDAP, OpenID Connect usw.
6. Kontingente und Grenzwertbereich: Mit OpenShift können Sie Ressourcenkontingente pro Projekt erzwingen, um Schäden durch Denial-of-Service-Angriffe zu begrenzen. Die Namespace-Trennung und die Storage-Isolierung werden ebenfalls erzwungen.
7. Compliance-Operator: Mit diesem Operator können Sie den erforderlichen Compliance-Zustand des Clusters bewerten und einen Überblick über Lücken sowie Möglichkeiten zu deren Behebung erhalten.
8. Schwachstellenmanagement in Echtzeit: Red Hat Advanced Cluster Security for Kubernetes unterstützt das Erkennen und Einschränken von Netzwerkrichtlinien auf der Basis von Anwendungsports und Protokollen.
9. Verschlüsselung: Red Hat OpenShift Data Foundation unterstützt die clusterweite Verschlüsselung (encryption-at-rest) für alle Disks und Multicloud-Objekt-Gateway-Vorgänge im Storage-Cluster.
10. Implementierung der Versionskontrolle: Mit Quay.io wird die Bereitstellung von Images mit bekannten Schwachstellen verhindert.
11. Secrets: OpenShift bietet einen Mechanismus zum Speichern sensibler Informationen wie Passwörter, Konfigurationsdateien und Repository-Anmeldedaten, um eine Datenverfälschung zu vermeiden.
12. Regelmäßig aktualisierte Container-Images: OpenShift vereinfacht Day-2-Aktivitäten und Health Checks, um die Behebung von Schwachstellen zu beschleunigen.

Zusammenfassend bietet Red Hat eine unternehmensgerechte Open Hybrid Cloud-Plattform, mit der Data Scientists und Entwicklungsteams Self Service-Funktionen zur Integration, Optimierung, Automatisierung und Vereinfachung der Erstellung einer Zero Trust-Architektur für MLOps-Prozesse nutzen können. Weitere Infos erhalten Sie von Ihrem Account-Team.