Red Hat AI in Aktion: Praktische Anwendungen für generative KI

Künstliche Intelligenz (KI) bleibt weltweit ein wichtiger Bereich für Innovationen und Investitionen von Unternehmen. Tatsächlich erwartet IDC, dass die weltweiten Ausgaben für KI-Lösungen im Zeitraum von 2023–2028 auf 632 Milliarden US-Dollar steigen werden. Dies entspricht einer durchschnittlichen jährlichen Wachstumsrate (CAGR) von 29,0 %.1 

Generative KI (gen KI) trägt maßgeblich zu diesem Wachstum bei, wobei für denselben Zeitraum weltweit ein durchschnittliches jährliches Wachstum der Ausgaben von 59,2 % erwartet wird.1 Gen KI ist ein leistungsstarkes Tool für Unternehmen, die innovative Produkte entwickeln, Prozesse optimieren und sich Wettbewerbsvorteile in sich schnell verändernden Märkten verschaffen möchten. Auf der Basis von Fortschritten im Bereich des Deep Learning und neuronaler Netzwerke geht KI über prädiktive Funktionen hinaus, indem sie nicht nur Daten verarbeitet, sondern auch neue, originelle Inhalte erzeugt. Gen KI erstellt diese neuen Inhalte oder Daten auf der Basis von Mustern, die aus vorhandenen Informationen gelernt wurden. Sie kann Text, Bilder, Code, Töne oder andere Medien generieren, die ihren Trainingsdaten ähneln, und bietet so innovative Lösungen für das Erstellen und Personalisieren von Inhalten. Daher verändert gen KI die Zusammenarbeit zwischen Mensch und Maschine, inspiriert zu neuen Ansätzen bei der Problemlösung und sorgt branchenübergreifend für erhebliche Geschäftsvorteile.

Gen KI-Anwendungen können eine Vielzahl von Vorteilen für Unternehmen bieten:

• Verbesserte Produktivität der Beschäftigten
• Erhöhte Kundenzufriedenheit
• Niedrigere Betriebskosten

In diesem E-Book werden wichtige Strategien und Überlegungen zur Auswahl von KI-Lösungen, die Vorteile einer Lösung, die ein Gleichgewicht zwischen einsatzbereiten und benutzerdefinierten Entwicklungsansätzen herstellt, sowie gängige Use Cases für den Einstieg in die gen KI in Ihrem Unternehmen vorgestellt. Lesen Sie weiter und erfahren Sie, wie Sie eine Basis für gen KI-Innovationen schaffen können.

Wie bei jeder großen IT- oder Geschäftsinitiative ist das Entwickeln einer Strategie für die KI-Implementierung in Ihrem Unternehmen entscheidend für den Erfolg. 

Unternehmen können für ihre KI-Strategie 2 verschiedene Ansätze verfolgen: die Einführung eines cloudbasierten KI-Service oder die eigene Entwicklung und das Hosting einer KI-Plattform. Diese Optionen erfordern ein unterschiedliches Maß an technischem und operativem Aufwand und bieten unterschiedliche Anpassungs- und Kontrollmöglichkeiten.

Cloudbasierte KI-Services

Cloudbasierte KI-Services werden von Drittanbietern als kostenpflichtige und gemanagte Lösung bereitgestellt. Diese Services bieten Zugriff auf Frontier-Modelle über APIs (Application Programming Interfaces). So kann Ihr Unternehmen KI-Modelle in seine Anwendungen integrieren, ohne das Modell selbst hosten zu müssen. Bei einigen privaten kommerziellen Angeboten können Sie die angebotenen Modelle auch feinabstimmen oder Modelle in einer dedizierten oder besser kontrollierten Umgebung bereitstellen.

Da Sie mit diesem Ansatz sofort einsatzbereite KI-Lösungen mit minimaler Interaktion mit dem Modell selbst erhalten, kann er für Unternehmen, die sich nicht mit den Komplexitäten des KI-Infrastrukturmanagements befassen möchten, über kleinere Betriebsteams verfügen oder KI in geringerem Umfang einsetzen, einfacher und kostengünstiger sein.

Selbst gehostete KI-Plattformen

Wenn Sie eine KI-Plattform selbst aufbauen und hosten, haben Sie mehr Auswahlmöglichkeiten und Kontrolle über Ihre Modelle und Ihre Umgebung. Sie können die Hardware, Software, Modelle, Anwendungen und den Deployment-Ort auswählen, die den Anforderungen Ihres Unternehmens am besten entsprechen. Sie können beispielsweise Ihre Modelle und Anwendungen in Public Clouds, Private Clouds, in Onsite-Rechenzentren oder an Edge-Standorten hosten. Dieser Ansatz bietet Ihnen mehr Möglichkeiten zur Anpassung Ihrer Modelle und Anwendungen, mehr Kontrolle über Ihre Daten und weniger Abhängigkeit von Drittanbietern. Dennoch sind in der Regel höhere Anfangsinvestitionen sowie laufende Betriebs- und Wartungskosten erforderlich als bei einem cloudbasierten KI-Service.

Für das Erstellen und Hosten einer KI-Plattform benötigen Sie:

• Zugriff auf Basismodelle für Ihren Use Case – hierzu gehören beispielsweise Large Language Models (LLMs), Code-Modelle, Small Language Models (SLMs), Open Source-Modelle und multimodale Modelle
• Zugriff auf Funktionen zur Hardwarebeschleunigung wie GPUs (Graphic Processing Units)
• Zugang zu einer Anwendungsplattform mit modernen KI-Tools und Bereitstellungsmechanismen
• Eine Governance-Lösung für Compliance und verantwortungsvolle KI-Nutzung

Dadurch erhalten Sie mehr Kontrolle über Ihre KI-Lösungen. Dieser Ansatz ist daher eine naheliegende Wahl für Unternehmen, die in stark regulierten Branchen tätig sind, sensible Daten und geistiges Eigentum (Intellectual Property, IP) in ihren KI-Lösungen verwenden möchten oder über größere Operations-Teams verfügen, die die Komplexität der Erstellung, des Betriebs und der Instandhaltung einer KI-Infrastruktur bewältigen können.

Vergleich der Ansätze mit KI-Strategien

Aspekte bei der Auswahl von KI-Lösungen

Berücksichtigen Sie bei der Auswahl von KI-Lösungen und -Strategien unbedingt Transparenz, Effizienz und Relevanz.

Transparenz bei KI-Lösungen

KI-Lösungen, die Transparenz, Verantwortlichkeit und Erklärbarkeit bieten und gleichzeitig für Datenschutz, Sicherheit und Compliance mit gesetzlichen Vorschriften sorgen, sind entscheidend für Vertrauensbildung, Risikominimierung und Wettbewerbsfähigkeit. Achten Sie auf Anbieter, die Modellarchitekturen, Trainingsdaten und Performance-Metriken offenlegen und Mechanismen zur Rechenschaftspflicht und Erklärungen für KI-generierte Ausgaben bieten. 

Optimierte Infrastruktur und Kosteneffizienz

Mit skalierbaren, kostengünstigen Infrastrukturlösungen, die Modelloptimierung, verteiltes Training und effiziente Hardwarekonfigurationen unterstützen, können Sie die Betriebskosten minimieren, die Performance verbessern und sich schnell an veränderte Anforderungen anpassen. Wenden Sie Techniken wie Quantisierung und Deployment an, um die Hardwareabhängigkeit zu reduzieren, die Infrastrukturkosten zu senken und die Auswirkungen auf die Umgebung insgesamt zu verringern.

Branchenspezifische Anwendungen

Gen KI-Lösungen können für eine Vielzahl von Aufgaben angewendet werden. Finden Sie Lösungen, die große Libraries mit branchenspezifischen KI-Use Cases enthalten und vorgefertigte Vorlagen für Anwendungen wie Empfehlungs-Engines und Kundensupport anbieten, um die Markteinführungszeiten zu verkürzen. Tools, mit denen Sie Modelle mit geschäftsspezifischen Daten abstimmen können, bieten einen verbesserten Kontext und dadurch genauere und relevantere Antworten.

Maximierter Wert Ihrer Technologieinvestitionen

1. Richten Sie Ihre KI-Initiativen an den Geschäftszielen aus: Stellen Sie sicher, dass die von Ihnen gewählte Lösung Ihre strategischen Ziele wie Differenzierung oder Effizienz direkt unterstützt.
2. Optimieren Sie die Gesamtbetriebskosten (Total Cost of Ownership, TCO): Berücksichtigen Sie die Ausgaben für Wartung, Infrastruktur und Fachkräfte sowie die Anschaffungskosten Ihrer Lösung.
3. Priorisieren Sie Einführungsgeschwindigkeit und Benutzerfreundlichkeit: Wählen Sie eine Lösung, bei der ein Gleichgewicht zwischen der Einführungsgeschwindigkeit und den Funktionen besteht, die Ihre Teams für ein produktives Arbeiten nutzen können.
4. Nutzen Sie die Vorteile zentralisierter KI-Services: Vermeiden Sie doppelten Aufwand und optimieren Sie die GPU-Nutzung, indem Sie skalierbare Models as a Service (MaaS) entwickeln und bereitstellen, die von sämtlichen Teams genutzt werden können.
5. Führen Sie kontinuierlich Messungen durch und nehmen Sie Anpassungen vor: Verfolgen Sie Ihren Return on Investment (ROI), indem Sie Faktoren wie Kosteneinsparungen, Effizienzsteigerungen und Umsatzzuwachs messen, und passen Sie Ihren Ansatz entsprechend an.

Red Hat® AI ist ein Portfolio von Produkten und Services, das die Entwicklung und Bereitstellung von KI-Lösungen in Hybrid Cloud-Umgebungen beschleunigt. Mit dem Ziel, die KI-Einführung zu vereinfachen, erleichtert das Portfolio den Zugang zu fortschrittlichen KI-Technologien in Ihrem gesamten Unternehmen. 

Durch die Balance von Flexibilität und Konsistenz unterstützt Red Hat AI Ihre Teams dabei, sowohl prädiktive als auch generative KI-Modelle dort bereitzustellen und zu verwalten, wo es für Ihre Workload und Gesamtstrategie am sinnvollsten ist. Das Portfolio unterstützt sämtliche Phasen bei der KI-Einführung  – von Einzelserver-Deployments bis hin zu hochverteilten, skalierbaren Plattformarchitekturen, sodass Sie klein anfangen und entsprechend Ihren Anforderungen und Plänen erweitern können. Die Unterstützung verschiedener Hardwarebeschleuniger, OEMs (Original Equipment Manufacturers) und Cloud-Anbieter sorgt für eine stabile, optimierte und leistungsstarke Umgebung für Ihre KI-Workloads. Darüber hinaus können Sie Ihre KI-Anwendungen und -Services in verschiedenen Umgebungen bereitstellen, darunter Onsite-Infrastruktur, Public und Private Cloud-Ressourcen sowie Edge-Standorte.

Das Portfolio von Red Hat AI umfasst Red Hat Enterprise Linux® AI für einzelne Linux-Serverumgebungen, Red Hat OpenShift® AI für verteilte Kubernetes-Plattformen und Red Hat AI Inference Server für optimierte Inferenz von LLMs. Diese Lösungen bieten Open Source-Technologien und speziell entwickelte SLMs, die Zugriff auf die neuesten KI-Tools ermöglichen und gleichzeitig die hohen Kosten mindern, die häufig mit generativer KI verbunden sind. Tatsächlich können Sie mit den enthaltenen Modellen der Granite-Familie, die unter der Apache 2.0-Lizenz mit Transparenz hinsichtlich der Trainingsdatensätze vertrieben werden, in kürzerer Zeit mit generativer KI beginnen, indem Sie kleinere, effiziente Modelle verwenden, die die Betriebskosten senken, ohne die Performance zu beeinträchtigen. Durch technischen Support für die Produktion und Regelungen für das geistige Eigentum an den Modellen können Sie Risiken mindern und sich ganz auf das Entwickeln, Bereitstellen und Verwalten innovativer KI-Lösungen konzentrieren, die Vertrauen, Transparenz und Kosteneffizienz bieten. Und schließlich unterstützt Sie das Partnernetzwerk von Red Hat AI dabei, Innovationen mit einer Reihe an getesteten, unterstützten sowie zertifizierten Produkten und Services zu beschleunigen, die sowohl geschäftliche als auch technische Herausforderungen bewältigen.

Optimierte Bereitstellung von KI-Modellen

Mit Red Hat AI können Ihre Teams prädiktive und generative KI-Modelle unter Verwendung Ihrer vertraulichen Unternehmensdaten erstellen. Das Portfolio umfasst wichtige Tools, GPU-Unterstützung und On-Demand-Umgebungen mit Self Service, mit denen die Agilität erhöht und IT-Abhängigkeiten reduziert werden. Mit dem Zugriff auf einen Katalog mit voroptimierten und quelloffenen Modellen der Granite-Familie können Sie Lösungen effizient an bestimmte Use Cases anpassen. Die Plattformen vereinfachen die Integration von Anwendungen und KI-Modellen, indem sie das Management von Modellen, Anwendungen und Code zentralisieren. Red Hat AI wurde für unternehmensweite Produktionsworkflows entwickelt und legt den Schwerpunkt auf Sicherheit, Kostenoptimierung und betriebliche Effizienz. Mit Services in den Bereichen Governance, Monitoring, Sicherheit, Machine Learning Operations (MLOps) und Large Language Model Operations (LLMOps) bietet die Lösung zuverlässigen Support für den täglichen Betrieb. Außerdem reduziert die Unterstützung von Air Gap Deployments Onsite oder in Private Cloud-Instanzen das Risiko einer Offenlegung sensibler Daten.

Vorteile von Red Hat AI

Gesteigerte Effizienz

Durch den Zugriff auf Modelle der Granite-Familie und einen Katalog voroptimierter Open Source-Modelle lassen sich das KI-Deployment und die operative Effizienz steigern. Diese Modelle erfordern weniger Rechenressourcen für die Abstimmung und ermöglichen gleichzeitig schnellere Inferenzen. Dadurch können Sie die Hardwareabhängigkeit reduzieren und Kosten minimieren.

Erleichterung und Zugänglichkeit

KI-Tools für verschiedene Rollen – von Entwicklerinnen und Entwicklern über Data Scientists bis hin zu KI-Engineers – sorgen für eine beschleunigte Entwicklung und Anpassung von Modellen. Durch das Vereinfachen der Umgebungseinrichtung und die optimierte Hardwarezuweisung für Modelltraining und -abstimmung unterstützt Red Hat AI den unternehmensweiten Zugang zur Unternehmens-KI.

Flexibles Deployment

Dank einem konsistenten Erlebnis in Hybrid Cloud-Umgebungen können Sie flexibel entscheiden, an welchem Standort Sie Ihre Modelle und gen KI-Anwendungen trainieren, abstimmen, bereitstellen und ausführen wollen. So können Sie Datenbeschränkungen einhalten, den Datenschutz gewährleisten und gleichzeitig die Kosten für die KI-Infrastruktur kontrollieren.

Mit dem Portfolio von Red Hat AI können Sie eine Vielzahl von KI-Use Cases implementieren und so viele geschäftliche Herausforderungen bewältigen. Das konsistente Benutzererlebnis ermöglicht Stakeholdern von KI-Entwicklungsteams über Data Scientists bis hin zu IT-Operations-Teams eine einfachere Entwicklung und Bereitstellung von KI-Lösungen in Hybrid Cloud-Umgebungen.

Häufige Business Use Cases, die von Red Hat AI abgedeckt werden

KI- und datengesteuerte Geschäftsabläufe

KI-Modelle sind in der Lage, die riesigen Datenmengen und die enorme Bandbreite der Daten zu verarbeiten, die Unternehmen erheben, um fundiertere Geschäftsentscheidungen treffen zu können. Mit besseren Insights können Teams den Umsatz maximieren, Abläufe optimieren sowie das Kundenerlebnis und die Produktivität der Beschäftigten verbessern.

Empfehlungs-Engines

KI-Empfehlungs-Engines bewerten aktuelle Situationen anhand historischer Daten, um häufige Faktoren zu identifizieren und Orientierungshilfen zu geben. Sie können in vielen Branchen genutzt werden, um Echtzeit-Vorschläge für Maßnahmen zu liefern.

Clalit Health ServicesSeite verfügbar in Englisch (Deutsch ist nicht verfügbar) hat kürzlich eine moderne KI-Plattform entwickelt, die auf Red Hat AI basiert, um historische medizinische Daten zu verarbeiten und ein LLM zu trainieren, um Risikopatienten für die Vorbeugung von Maßnahmen und Medikation zu identifizieren. Die Lösung gibt dann über ein Chatbot-ähnliches Erlebnis Empfehlungen zu Vorgehensweisen für die Behandlung von Patienten. Clalit nutzt die Plattform auch zur Entwicklung von Lernprozessen und Algorithmen, um so neue Trends und Verhaltensmuster bei Patienten und Krankheiten zu erkennen. 

Success Story lesenSeite verfügbar in Englisch (Deutsch ist nicht verfügbar)

Automatisierte KI-Workflows mit Self Service

Die Entwicklung von KI-Modellen und -Anwendungen kann kompliziert sein. Automatisierte KI-Pipelines und Self Service-Abläufe können diesen Prozess optimieren und gleichzeitig die Sicherheit und Compliance verbessern.

Die Data Scientists der DenizBank wollten den aktuellen Workflow mit einem standardisierten Ansatz in einen weniger manuellen Prozess umwandeln. Die IT-Tochtergesellschaft der Bank, Intertech, stellte eine Modellentwicklungsumgebung mit automatisierten Pipelines und Standards bereit, um die Produktivität und die Markteinführungszeit für das Identifizieren von Kundenkrediten und Betrugserkennung zu verbessern. Als wichtigste Verbesserung führte Intertech Red Hat AI aufgrund seiner Self Service-Funktionen und Skalierung der Modellbereitstellung sowie der Verbesserung der operativen Effizienz ein. Die mehr als 100 Data Scientists der Bank können sich jetzt auf die Entwicklung von Modellen konzentrieren, die robuster und sicherer sind als je zuvor.

Success Story lesen

Automatisiertes Service-Ticket-Routing

Organisationen im öffentlichen und privaten Sektor nutzen Ticketing-Systeme für Bürgerinnen und Bürger, Kunden und Beschäftigte. Mithilfe von KI-basierten Bewertungen können sie eingehende Tickets schnell an die richtigen Teams weiterleiten. Darüber hinaus können einige Tickets sogar automatisch bearbeitet werden, um die Lösung und die Benutzerzufriedenheit zu beschleunigen.

Die Behörde für elektronische Verwaltung und Informations- und Wissensgesellschaft (AGESIC) in UruguaySeite verfügbar in Englisch (Deutsch ist nicht verfügbar) hat Red Hat AI eingeführt, um KI behördenübergreifend zu erweitern, zu skalieren und zu standardisieren. Mit dieser Lösung kann AGESIC Modelle effizient erstellen, trainieren, abstimmen und bereitstellen und eine engere Zusammenarbeit zwischen Data Scientists, Entwicklungs- und IT-Operations-Teams fördern. So hat AGESIC beispielsweise eine Reihe von Modellen entwickelt und bereitgestellt, um 2.000 Bürgeranträge pro Monat automatisch zu klassifizieren und an das zuständige Team weiterzuleiten. So konnte die Bearbeitungszeit von 1 Stunde auf nur wenige Sekunden reduziert werden.

Pressemitteilung lesenSeite verfügbar in Englisch (Deutsch ist nicht verfügbar)

Kundensupport und Erstellung von Inhalten

Hochwertiger Kundensupport ist für die Bereitstellung hochwertiger Benutzererlebnisse entscheidend. Mit KI können Support-Teams die Fehlerbehebung verbessern, Informationen und Tickets zusammenfassen und auf der Grundlage vorhandener Dokumentation angepasste Inhalte erstellen.

Wir nutzen Red Hat AI in unserer eigenen Organisation,Seite verfügbar in Englisch (Deutsch ist nicht verfügbar) um die Effizienz und Skalierbarkeit der Kunden- und technischen Supportservices zu erhöhen. Das Experience Engineering Team von Red Hat hat 4 KI-gestützte Lösungen entwickelt, getestet und bereitgestellt, mit dem Ziel, den IT-Support für unsere Kunden und Support-Mitarbeitenden zu vereinfachen. Diese Tools verbessern den Self Service, steigern die Effizienz und ermöglichen eine schnellere Reaktion auf Support-Tickets. So haben wir beispielsweise für Mitarbeitende im IT-Support, die jeden Monat 30.000 neue Fälle bearbeiten, die Verfügbarkeit von Wissensinhalten erhöht und sich wiederholende Aufgaben minimiert. Unsere KI-gestützten Initiativen haben das Kosteneinsparungspotenzial dieser Lösungen gezeigt: Wir konnten binnen nur 10 Monaten schätzungsweise 1,5 Millionen US-Dollar an Supportkosten einsparen, mit einer geplanten Einsparung von mehr als 5 Millionen US-Dollar insgesamt.

Success Story lesenSeite verfügbar in Englisch (Deutsch ist nicht verfügbar)

Virtuelle Assistenten und Chatbots

KI-basierte Chatbots und Assistenten verbessern die Qualität und Genauigkeit der Antworten. Sie dienen häufig als Interaktionspunkt für moderne KI-Lösungen und können branchenübergreifend in einer Vielzahl von Use Cases eingesetzt werden, vom Kundenservice über die Bereitstellung von Informationen bis hin zur Erstellung von Inhalten.

Die Stadt Wien wollte die Produktivität und Zufriedenheit ihrer Beschäftigten verbessern. Die Stadt hat einen virtuellen Assistenten entwickelt, der die Beschäftigten bei ihrer täglichen Arbeit unterstützt und ihnen sofortige Antworten auf arbeitsbezogene Fragen gibt. So können sie jetzt präziser auf Bürgeranfragen reagieren. Mit OpenShift AI auf Red Hat OpenShift kann die Stadt Innovationen beschleunigen, neue Services und Funktionen für die Öffentlichkeit bereitstellen und häufige Release-Zyklen beibehalten.

Success Story lesen

Entwickeln Sie KI-Lösungen für Ihre Ansprüche

Nutzen Sie Ihre eigenen Ressourcen und Insights, um Mehrwert durch KI zu schaffen – mit der Freiheit, die Ihr Unternehmen benötigt. Red Hat AI kann die Markteinführung beschleunigen und die operativen Kosten für die Bereitstellung von KI-Lösungen in Ihrer Hybrid Cloud-Umgebung reduzieren. Stimmen Sie kleine, zweckgebundene Modelle effizient mit Ihren eigenen Unternehmensdaten ab und profitieren Sie von der Flexibilität, diese unabhängig vom Datenstandort bereitstellen zu können. Verwalten und überwachen Sie die Lifecycles von KI-Modellen in großem Umfang, und konzentrieren Sie sich auf Innovationen mit KI, um Ihre Geschäftsziele zu erreichen.

Mehr Informationen über das Portfolio von Red Hat AI

Sehen Sie sich Produktinformationen, wichtige Funktionen und Vorteile an und greifen Sie auf kostenlose Testversionen und Entwicklungs-Sandboxes für Red Hat Enterprise Linux AI und Red Hat OpenShift AI zu.

Mehr erfahren

KI-Ressourcen und -Wissen für Ihr gesamtes Unternehmen

Entwickeln Sie Ihre KI -Kompetenzen mit praktischen Ressourcen für Fachkräfte oder festigen Sie Ihre Entscheidungen mit Wissensressourcen zu KI. Wir stellen Demos, Guides und Case Studies zur Verfügung, um Ihnen den Einstieg zu erleichtern.

Erweitern Sie Ihre Kompetenzen