Einführung von AI Hub und Gen AI Studio: Die neue Befehlszentrale für generative Unternehmens-KI in Red Hat OpenShift AI

Die Welt von gen KI bewegt sich blitzschnell. Für Unternehmen kann es überwältigend sein, sich in der Flut neuer Large Language Models (LLMs), Tools (wie Model Context Protocol (MCP) Server) und Frameworks zurechtzufinden. Wie wählen Sie das richtige Modell aus? Wie ermöglichen Sie es Ihren Teams, mit den neuesten KI-Innovationen zu experimentieren und zu entwickeln, ohne organisatorische Hindernisse zu schaffen?

Wir bei Red Hat glauben, dass die Zukunft der KI in großem Umfang offen, zugänglich und managebar ist. Aus diesem Grund freuen wir uns, zwei neue konsolidierte Dashboard-Erlebnisse in Red Hat OpenShift AI 3.0 ankündigen zu können: AI Hub und Gen AI Studio.

Diese Erlebnisse sind darauf ausgelegt, den gesamten gen KI-Lebenszyklus für Unternehmen zu optimieren, indem maßgeschneiderte Komponenten für die wichtigsten Personengruppen bereitgestellt werden, die Innovationen mit KI in Organisationen durchführen: Platform Engineers und KI-Engineers.

Was gibt es Neues: Eine genauere Betrachtung

AI Hub und Gen AI Studio arbeiten zusammen, um einen zusammenhängenden End-to-End-Workflow für die Entwicklung produktionsreifer KI-Lösungen auf einer bewährten, konsistenten Plattform zu schaffen.

AI Hub: Das Control Panel für Plattform Engineers

AI Hub ist der zentrale Punkt für die Verwaltung und Governance von gen KI-Assets innerhalb von OpenShift AI. Dadurch können Platform Engineers die grundlegenden Komponenten entdecken, bereitstellen und verwalten, die ihre Teams benötigen. Wichtige Komponenten:

• Katalog: Eine kuratierte Library, in der Platform Engineers eine Vielzahl von Modellen entdecken, vergleichen und evaluieren können. Dies hilft dabei, den „Stillstand bei der Modellauswahl“ zu überwinden, indem die Daten bereitgestellt werden, die zur Auswahl des optimalen Modells für einen beliebigen Use Case erforderlich sind.
• Registry: Ein zentrales Repository zum Registrieren, Versionieren und Verwalten des Lifecycles von KI-Modellen, bevor sie für das Deployment konfiguriert werden.
• Deployments: Eine Administrationsseite zum Konfigurieren, Bereitstellen und Überwachen des Status von Modellen, die auf dem Cluster ausgeführt werden.

Gen AI Studio: Die Innovations-Workbench des KI-Engineers

Während AI Hub für die Kontrolle sorgt, bietet Gen AI Studio eine praxisorientierte Umgebung für KI-Engineers zum Nutzen, Experimentieren und Entwickeln. Hier nimmt die Innovation Form an. Das Studio umfasst:

• KI-Asset-Endpunkte: Eine einfache, klare Übersicht für KI-Engineers, um alle bereitgestellten und provisionierten Modelle und MCP Server (via ConfigMap) zu sehen, die sie in ihren Projekten nutzen können.
• Playground: Eine interaktive, zustandslose Umgebung, in der KI-Engineers mit bereitgestellten Assets experimentieren, Prompts testen, Parameter anpassen und die Performance für Use Cases wie Chat und Retrieval-Augmented Generation (RAG) bewerten können.

Dieser integrierte Experimentierbereich ist ein Game-Changer. Tests werden aus verschiedenen lokalen Umgebungen auf eine standardisierte, kollaborative Plattform verlagert, was den gesamten Entwicklungs-Lifecycle beschleunigt. Gleichzeitig erhalten KI-Engineers einen klaren Einblick in die genehmigten KI-Assets, auf die sie zugreifen und die sie verwenden können, damit die Experimente im Einklang mit den Unternehmensrichtlinien stehen.

Realer Mehrwert für das Unternehmen

Durch die Schaffung eines einheitlichen Erlebnisses für Platform Engineers und KI-Engineers bietet OpenShift AI leistungsstarke Vorteile bei der Bewältigung häufiger Herausforderungen von Unternehmen.

• Optimierte Modellauswahl: Der Katalog von AI Hub schafft Klarheit im Marktgeschehen und ermöglicht es Platform Engineers, einen Satz unternehmensgerechter Modelle zusammenzustellen, die am besten für ihre geschäftlichen Anforderungen geeignet sind.
• Zentralisierte und verwaltete KI-Assets: Die Plattform löst organisatorische Fragmentierung, indem sie eine Single Source of Truth für sämtliche gen KI-Assets schafft. Platform Engineers können KI-Assets verwalten, versionieren und KI-Engineers gezielten Zugriff gewähren, womit sie die Grundlage für eine vollständige KI-Governance legen.
• Beschleunigte Entwicklungszyklen: Der Playground von Gen AI Studio schließt die Lücke zwischen Analyse und Integration. KI-Engineers können Modelle schnell testen und validieren und mit den verfügbaren MCP-Servern auf standardisierte Weise mit Tools experimentieren. Dadurch werden Fehler beim Deployment reduziert und KI-gestützte Anwendungen schneller produktiv.

Erste Schritte

Sind Sie bereit für eine zentrale Kontrolle und beschleunigte Innovation Ihrer KI-Workflows? AI Hub und Gen AI Studio unterstützen Sie dabei, Ihre nächste Generation von KI-Anwendungen auf einer zuverlässigen Plattform zu entwickeln.

Unser Ziel ist es, Sie dabei zu unterstützen, interessante Artikel zu verfassen, die den Bedürfnissen unserer Leser gerecht werden. Dies beginnt damit, einen klaren Weg aufzuzeigen, um unsere Technologie praktisch anzuwenden.

Red Hat OpenShift AI jetzt testen

Wie geht es weiter?

Das ist erst der Anfang. Wir entwickeln OpenShift AI kontinuierlich weiter, um das gesamte Spektrum generativer KI zu unterstützen. In der Zukunft werden KI-Assets das MCP-Servermanagement erweitern und andere wichtige Komponenten wie Agents, Wissensquellen für RAG und Sicherheitsrichtlinien einbeziehen. 

Wir planen außerdem, die Souveränität und Governance von KI-Assets auf AI Hub und Gen AI Studio auszuweiten, um Unternehmen eine detaillierte Kontrolle über Quotas, Berechtigungen und Verwaltung von KI-Assets zu ermöglichen und so Compliance sicherzustellen. 

Die Zukunft der unternehmensfähigen KI ist offen und kollaborativ, und OpenShift AI ist die Plattform, die Sie dorthin bringt.