Ihre Modelle von Red Hat OpenShift AI sind bereit. Wer wird sie nutzen?

Sie haben das Modell trainiert, in Red Hat OpenShift AI paketiert und es ist einsatzbereit. Der nächste Schritt ist die Bereitstellung über eine API, damit sie von Personen und Anwendungen genutzt werden kann. In diesem Moment ist Ihr Modell kein internes Experiment mehr, sondern ein von außen zugänglicher Service. Und wie bei anderen externen Services werden viele darauf zugreifen … manchmal ist es der richtige Nutzende, manchmal nicht.

Ihr Modell ist nicht mehr nur ein Projekt im Labor, sondern ein Produktionsendpunkt. Und wie jeder Endpunkt ist es ein Angriffsziel. Wie stellen Sie sicher, dass nur die richtigen Anwendungen und Nutzenden damit interagieren? Wie schützen Sie die sensiblen Daten, mit denen es trainiert wurde, oder die proprietäre Logik, die es enthält?

Die neue Zugriffskontrolle ist eine API

Jeder API-Endpunkt ist ein Angriffsziel. Bei KI-Modellen ist die Angriffsfläche größer als bei einfachen Anwendungsdiensten. Neben einfachem Denial-of-Service-Datenverkehr können Modelle durch Prompt Injection dazu verleitet werden, Daten preiszugeben, oder so lange untersucht werden, bis sensible Trainingsdaten offengelegt werden. Selbst wenn keine Daten offengelegt werden, können Angreifer versuchen, Rechenzyklen zu missbrauchen oder Antworten in großen Mengen zu extrahieren.

Da sich Deployments über Clouds, Rechenzentren und Edge-Standorte verteilen, vervielfachen sich diese Risiken. Es wird schwieriger, Sicherheitsrichtlinien durchzusetzen, es kommt zu Versionsabweichungen, und Compliance-Prüfungen werden zu einem schwer fassbaren Ziel. Ohne konsistente Transparenz ist es leicht, ungewöhnliche Datenverkehrsmuster zu übersehen, bis es zu spät ist.

Wie Red Hat und F5 zusammenarbeiten

OpenShift AI bietet Ihnen eine konsistente Container-Plattform, mit der Sie Modelle in verschiedenen Umgebungen erstellen, trainieren und bereitstellen können. Es standardisiert, wie Sie Workloads paketieren, Lifecycles verwalten und Infrastruktur skalieren.

F5 bietet seine branchenführende Application Delivery and Security Platform (ADSP) an, die eine breite Unterstützung für Anwendungs-Deployments in Hybrid- und Multi Cloud-Umgebungen bietet. F5 Distributed Cloud Services ist die skalierbare SaaS-basierte (Software as a Service) Schicht der ADSP, die eingesetzt werden kann, um API-Endpunkte durch die folgenden Funktionen vor einem breiten Spektrum von Angriffen zu schützen:

• API Discovery und Schema-Validierung: Finden Sie jeden Modellendpunkt (auch die vergessenen), setzen Sie Verträge durch und blockieren Sie fehlerhafte oder bösartige Aufrufe.
• Bedrohungserkennung und Datenverkehrsmanagement: Erkennen Sie Injection, Scraping oder Missbrauch in Echtzeit und gleichen Sie den Datenverkehr aus, um die Latenz gering zu halten.
• Zentralisierte Transparenz: Ein Dashboard zur Überwachung der Nutzung, Durchsetzung von Richtlinien und Einhaltung der Compliance über Hybrid- oder Multi Cloud-Deployments hinweg.
• Automatisierung und Richtlinienkonsistenz: Sicherheitsregeln folgen dem Modell, wo immer es ausgeführt wird. Dies reduziert den manuellen Aufwand und unterstützt Teams beim Rollout neuer Versionen.

Gemeinsam reduzieren Red Hat und F5 den Zielkonflikt zwischen Schnelligkeit und Sicherheit.

Schneller entwickeln, besser geschützt bleiben

Data Science- und Anwendungsteams möchten keine nachträgliche Integration der Sicherheit. Sie benötigen eine Integration in die Pipeline, damit sie Updates zuverlässig veröffentlichen können. OpenShift AI bietet die MLOps-Basis. F5 trägt dazu bei, dass die APIs, auf die sich diese Modelle stützen, keine Schwachstelle darstellen.

Das bedeutet: Wenn Ihre Modelle miteinander kommunizieren, können Sie sicher sein, dass sie nur mit den richtigen Personen kommunizieren.

• Erfahren Sie von Sherard Griffin, wie Red Hat mit Red Hat OpenShift künstliche Intelligenz in Ihrem Unternehmen zugänglich macht.
• Erfahren Sie, wie Sie mit den Distributed Cloud Services von F5 Ihre KI-Modelle sichern können.