NAIRR, Red Hat und Open Source unterstützen die Bereitstellung der Control Plane für die KI-Forschung

Projekte im Bereich künstliche Intelligenz (KI) in der Open Source Community nehmen in einem Tempo zu, das gleichermaßen aufregend wie herausfordernd ist. Der 2025 AI Index Report der Stanford University bietet Informationen über beeindruckende 4,3 Millionen Open Source-KI-Projekte, die im vergangenen Jahr auf GitHub entstanden sind – eine Steigerung von 40 % in nur 12 Monaten. Für Forschende ist diese Dynamik entscheidend, stellt aber auch eine fundamentale Herausforderung dar: Wie kann eine offene Zusammenarbeit erfolgen, ohne die Kontrolle über die Daten und das geistige Eigentum zu verlieren, die den Fortschritt vorantreiben? 

In einem Forschungskontext geht es nicht nur um den Besitz der Hardware; es geht um die administrative Kontrolle über Ihre Umgebung. Forschende und Wissenschaftsbeteiligte sind auf Daten angewiesen. Wir müssen sicherstellen, dass unsere einzigartigen Beiträge in einem gemeinsamen Raum geschützt bleiben. Diese Fähigkeit zur unabhängigen Kontrolle und zum Schutz des digitalen Footprints eines Projekts ermöglicht eine echte kollaborative Forschungsumgebung. Glücklicherweise hat sich in der Forschungs-Community eine Lösung entwickelt – ein Weg, diese Lücke durch Kontrolle auf Projektebene zu schließen und die Datengravitation intelligenter zu verwalten.

In meiner Rolle bei Red Hat arbeite ich mit dem Programm National AI Research Resource (NAIRR) zusammen. Unter der Leitung der National Science Foundation (NSF) wurde NAIRR gegründet, um US-Forschungsressourcen weiterzuentwickeln. Das Programm begegnet den Herausforderungen der KI-Entwicklung und hilft dabei, den Zugang zu High-End-KI-Rechen- und Datenressourcen zu demokratisieren, die meist nur den größten Technologieunternehmen zur Verfügung stehen. NAIRR entwickelt sich derzeit zu einer langfristigen Forschungsressource und schafft eine skalierbare nationale Infrastruktur, die Forschende und Lehrkräfte aller Fachrichtungen unterstützt. Dieses Projekt ist ein Meilenstein in der US-Forschung. Es dient zudem als wiederholbares Beispiel dafür, wie Projekte in einer gemeinsamen Umgebung Unabhängigkeit und Transparenz wahren.

Die Architektur der Forschungsisolierung

NAIRR fungiert als zentraler Treffpunkt – ein Modell für eine effiziente Infrastruktur in großem Umfang, das die Notwendigkeit für Forschende beseitigt, Tausende individueller Kopien von Ressourcen zu erstellen.  Mit über 670 Projekten und Teilnehmenden aus den gesamten USA und ihren zugehörigen Regionen, die seit dem Pilotprojekt beteiligt sind, ist der Umfang offensichtlich.  Damit ein solcher Treffpunkt effektiv funktioniert, benötigt jede teilnehmende Person einen eigenen, auf die spezifischen Forschungsbedürfnisse zugeschnittenen Bereich. NAIRR nutzt diesen Ansatz, um Innovatoren dabei zu helfen, ihre Arbeit auf einer Open Source-Basis zu verankern, ohne die Kontrolle aufzugeben. Um diese Grenzen auf Projektebene für Forschende im gemeinsamen Deep Partnership Pilot von Red Hat mit IBM, der AI Alliance und der Mass Open Cloud beizubehalten, stellt Red Hat eine Softwareschicht zur Orchestrierung der zugrunde liegenden Hardware bereit. Dies gibt Forschenden die Tools und Funktionen, um die autonome Kontrolle über ihren Namespace in einem mandantenfähigen Cluster zu behalten, während der Ressourcenanbieter die Umgebung weiterhin effizient verwaltet. Forschende, die an NAIRR arbeiten, haben Zugriff auf unsere unternehmensgerechte KI-Infrastruktur, darunter Red Hat OpenShift, Red Hat OpenShift AI, Red Hat Enterprise Linux und Red Hat Advanced Cluster Management for Kubernetes.

Durch die Bereitstellung dieses konsistenten Stacks für den gesamten Lifecycle von KI- und ML-Experimenten unterstützen wir ein kollaboratives IT-Ökosystem, in dem Innovationen ohne Beeinträchtigung der Projektkontrolle entstehen. Beispielsweise können Forschende mit Red Hat OpenShift jedem Projekt einen eigenen Kubernetes-Namespace und ein eigenes Layer 2-VLAN zuweisen. Sie können zudem die ressourcenbasierte Zugriffskontrolle nutzen und Gruppen mit unterschiedlichen Zugriffsstufen auf Ressourcen und Daten innerhalb ihres eigenen Projekts oder in Zusammenarbeit mit anderen erstellen. Diese technische Konfiguration stellt sicher, dass jedes Projekt selbst in einem gemeinsamen Rechenzentrum über einen isolierten „Raum“ verfügt, der Netzwerkverkehr und Daten vor unbefugtem Zugriff schützt. Diese Basis unterstützt Forschende auf dem Weg von der ersten Entdeckung bis zu validierten Ergebnissen und bewahrt die Unabhängigkeit während des gesamten technologischen Prozesses.

Gleichgewicht zwischen gemeinsamer Skalierung und alleinigem Eigentum

Der Wert des NAIRR-Ansatzes liegt in seiner Effizienz und der Fähigkeit, Datengravitation zu verwalten. Durch die Bereitstellung einer gemeinsamen Open Source-Basis – der Softwareumgebung auf dieser Infrastruktur – unterstützt Red Hat Organisationen dabei, den Nutzen ihrer Infrastrukturausgaben zu maximieren und die Rechenleistung nahe an den Daten zu halten. Unsere Beiträge sind Teil eines größeren, kollaborativen IT-Ökosystems und ergänzen viele andere Tools und Ressourcen, die Forschenden zur Verfügung stehen, um ihre Arbeit individuell anzupassen.

Da Forschung keine Einheitslösung ist, kann das erforderliche Maß an Kontrolle variieren. Manchmal geht die benötigte Isolierung über softwaredefinierte Grenzen hinaus und umfasst die Hardware selbst. Während viele Forschende auf gemeinsamen Plattformen erfolgreich arbeiten, benötigen andere das alleinige Eigentum an der Hardware für spezialisierte Messungen, wie die systemnahe Betriebssystementwicklung oder hochpräzise GPU-Tests. Um dies zu unterstützen, bietet NAIRR auch Zugriff auf isolierte Bare Metal-Rechner. Unabhängig davon, ob Forschende mit OpenShift verwaltete Container oder Hardware ohne Betriebssystem verwenden, bieten wir die stabile, sichere operative Basis, mit der sie die Unabhängigkeit ihrer Arbeit bewahren und gleichzeitig an dieser gemeinsamen Community teilnehmen.

Raum für experimentelle Entdeckungen schaffen

Ein Kernelement dieser Arbeit ist die Bereitstellung einer stabilen Umgebung, in der wir auch die Zukunft der Intelligenzschicht erforschen. Im Zeitalter zahlreicher KI-Modelle ist Rechenleistung eine global begrenzte Ressource, und wir müssen Wege finden, sie effizienter zu nutzen. Hier sind isolierte Testbeds wertvoll. Sie ermöglichen uns, mit neuen Kategorien wie dem Inferenz-Routing zu experimentieren. Dabei leiten wir einfache Aufgaben intelligent an kostengünstige KI-Modelle weiter, während wir enorme Rechenleistung für die komplexesten Probleme reservieren, ohne die zentrale Forschung zu unterbrechen.

Eines der von NAIRR unterstützten Projekte, Multi-Modal Semantic Routing for vLLM, widmet sich beispielsweise der Erweiterung des von Red Hat gegründeten vLLM Semantic Router-Projekts. Dieser Aufwand konzentriert sich auf Sprach-Text-Pipelines und visuelle Funktionen. Dabei untersuchen wir, wie eine transparente und überprüfbare Entscheidungslogik in einer Open Source-Umgebung aufrechterhalten werden kann. Durch die Bereitstellung dieser Sandboxen helfen wir bestimmten Projekten, die Grenzen der KI-Forschung zu erweitern und gleichzeitig die Stabilität der breiteren Community zu gewährleisten.

Diese Fähigkeit zum Experimentieren ist besonders wichtig, da sich die Branche in Richtung agentenbasierter KI bewegt, bei der KI-Modelle über die einfache Generierung hinausgehen und komplexe, autonome Aufgaben ausführen. Damit dieser Trend vom Branchen-Hype zum wissenschaftlichen Durchbruch führt, benötigen Forschende mehr als nur reine Leistung – sie brauchen einen Innovationskanal, der Lifecycle-Management und Standardisierung auf professionellem Niveau bietet. Genauso wie sie Kontrolle und Sicherheitsvorgaben für den menschlichen Zugriff benötigen, brauchen Forschende die gleiche Überwachung für Agenten, die innerhalb ihrer Projekte auf Daten und Rechenleistung zugreifen.

Mit zunehmender Reife des NAIRR-Ökosystems stellt es genau diese Umgebung bereit. Red Hat erleichtert dies durch die Bereitstellung der operativen Basis – dem integrierten Stack aus Red Hat Enterprise Linux, Red Hat OpenShift und Red Hat OpenShift AI. Damit kann eine Sammlung leistungsstarker Forschungstools wie PyTorch zur Optimierung und SLURM für das Workload-Management als eine einheitliche, leistungsstarke Basis fungieren. Dadurch können Forschende autonome Agenten mit der gleichen unternehmensgerechten Genauigkeit entwickeln, trainieren und bereitstellen, die anspruchsvolle Wissenschaft erfordert.

Die Arbeit, die wir mit NAIRR leisten, beweist, dass Innovationen in einem offenen Umfeld der beste Weg sind, um operativ stabile und flexible KI zu entwickeln, und dass gemeinsam genutzte Ressourcen und individuelle Kontrolle kein Widerspruch sind. Durch die Bereitstellung einer Basis für Open Source-Tools zur Unterstützung von Grenzen auf Projektebene zeigt Red Hat, dass die Zukunft der KI sowohl kollaborativ als auch unabhängig sein kann.