AI501

Descrizione del corso

Sperimenta le procedure, la cultura e gli strumenti che consentono ai team di creare, distribuire e gestire le applicazioni di IA gen in produzione in modo affidabile ed efficiente.

GenAIOps Enablement with Red Hat AI Enterprise (AI501) è un corso intensivo della durata di cinque giorni, erogato secondo il metodo Red Hat e pensato per sviluppare nei team le competenze necessarie a definire e concretizzare la propria visione dell'IA. Sebbene molti programmi di formazione sull'IA siano incentrati su un framework o una tecnologia specifici, questo corso illustra come gli strumenti si integrano in un flusso di lavoro operativo di IA generativa completo, considerando come risultato finale l'applicazione basata sull'IA, e non solo il modello.

Per raggiungere gli obiettivi di apprendimento, il gruppo dei partecipanti deve includere persone che ricoprono ruoli aziendali diversi. Ingegneri di IA, sviluppatori di applicazioni, ingegneri della piattaforma, architetti e responsabili IT acquisiranno esperienza andando oltre i loro silos tradizionali. Le attività quotidiane simulano quelle di un team di distribuzione reale che crea un'applicazione basata sull'IA, in cui gruppi di lavoro interfunzionali scopriranno quanto la collaborazione sia importante per favorire l'innovazione. Grazie alle esperienze condivise e alle procedure consigliate, il team può mettere in pratica quanto appreso per aiutare la cultura e la mission aziendali a perseguire le iniziative di IA generativa.

Il corso si basa su Red Hat AI Enterprise, che include Red Hat OpenShift AI, oltre a Red Hat OpenShift GitOps, Red Hat OpenShift Pipelines, modelli di IA generativa e librerie open source.

Riepilogo dei contenuti del corso

Questo corso illustra il percorso end to end di un'applicazione basata sull'IA, dalla fase di sperimentazione con i prompt fino all'implementazione operativa, favorendo al contempo la collaborazione lineare tra diverse figure professionali su un'unica piattaforma.

• Comprendere le basi dell'IA gen, inclusi token, finestre di contesto e comportamento dei modelli
• Sperimentare con i prompt e valutare la tua prima applicazione basata sull'IA
• Introdurre un livello di orchestrazione per lo sviluppo standardizzato dell'IA gen
• Implementare la retrieval augmented generation (RAG) per applicazioni basate sull'integrazione della conoscenza
• Creare agenti IA autonomi con capacità di tool calling
• Implementare gli strumenti di protezione per l'IA e le pratiche di sicurezza dell'IA gen
• Fornire una panoramica chiara con metriche, registrazione e tracciamento distribuito per i sistemi di IA gen
• Esplorare modelli linguistici di piccole dimensioni e capacità multimodali
• Ottimizzare i modelli tramite tecniche di quantizzazione e compressione
• Implementare i modelli Models-as-a-Service (MaaS) per un'infrastruttura di IA scalabile

Destinatari del corso

Questo corso dimostra che i dipendenti che ricoprono ruoli diversi devono imparare a condividere le informazioni, collaborare e impegnarsi per raggiungere un obiettivo comune, in modo da ottenere risultati positivi e promuovere l'innovazione dell'IA generativa.

È particolarmente utile per:

• Utenti di piattaforme di IA: ingegneri di IA, sviluppatori di applicazioni, data scientist e data engineer che realizzano applicazioni di IA generativa
• Fornitori di piattaforme di IA: ingegneri di ML/GenAIOps e ingegneri della piattaforma che distribuiscono e gestiscono l'infrastruttura di IA
• Stakeholder della piattaforma di IA: architetti e responsabili IT che valutano e supervisionano le strategie di adozione dell'IA generativa

I casi d'uso incorporano gli aspetti tecnici dell'utilizzo di modelli linguistici di grandi dimensioni e sistemi di IA generativa, offrendo informazioni pratiche su come chi ricopre questi ruoli può allineare il suo lavoro a quello dei colleghi.

Requisiti per accedere al corso

• La valutazione gratuita consente di verificare che questa offerta formativa corrisponda alle competenze in tuo possesso.
• Un browser basato su Chromium
• Containers, Kubernetes and Red Hat OpenShift Technical Overview (DO080) o una conoscenza di base di OpenShift/Kubernetes e dei container
• È utile avere una conoscenza di base dell'IA o di come la tua azienda può trarne valore

Struttura del corso 

Basi

• Nozioni di base sull'IA gen

  Scopri il significato di GenAIOps e come funzionano i modelli linguistici di grandi dimensioni (LLM), con attenzione particolare alla tokenizzazione, alle finestre di contesto e ai fattori che influiscono sul comportamento e sulle prestazioni dei modelli.

• Sperimentazione con i prompt

  Impara a creare prompt efficaci usando i prompt di sistema e quelli utente, a configurare i parametri di temperatura e di output e a ottimizzare i prompt per scenari di utilizzo specifici.

• Valutazione della prima applicazione basata sull'IA

  Implementa il versioning dei prompt, crea pipeline di valutazione, automatizza i test e misura sistematicamente la qualità delle applicazioni.

• Aggiunta del livello di orchestrazione

  Aggiungi un livello di orchestrazione per creare app di IA gen, distribuire servizi di backend e mettere in pratica GitOps per una distribuzione continua.

Argomenti avanzati

• Integrazione e orchestrazione

  Distribuisci database vettoriali, crea pipeline RAG per applicazioni basate sull'integrazione della conoscenza, implementa il tool calling e crea agenti IA autonomi.

• Sicurezza e osservabilità

  Implementa le protezioni di sicurezza dell'IA, applica le pratiche di sicurezza dell'IA gen, abilita i tre pilastri dell'osservabilità (metriche, registrazione e tracciamento).

• Tecniche di modellazione

  Esplora modelli linguistici di piccole dimensioni per un'implementazione efficiente e funzionalità multimodali per la gestione di diversi tipi di input.

• Ottimizzazione e implementazione

  Applica tecniche di quantizzazione e compressione per migliorare le prestazioni, esplora approcci di fine tuning, implementa modelli di tipo Models-as-a-Service (MaaS) e riunisci tutto in un'implementazione di produzione.

Vantaggi per l'organizzazione

• Molte aziende si trovano ad affrontare problemi come la complessità operativa e la proliferazione incontrollata di strumenti tra i team, il drift a livello di prompt e configurazioni che porta a risultati non uniformi, le regressioni a livello di qualità che si manifestano con i cambiamenti, il grounding non gestito che causa allucinazioni, i rischi per la sicurezza derivanti da prompt injection e contenuti dannosi, nonché la latenza e i costi imprevedibili che ostacolano la scalabilità. GenAIOps affronta queste sfide attraverso la standardizzazione, il trattamento dei prompt e delle configurazioni come codice, le valutazioni automatizzate continue, la RAG con governance controllata, le protezioni applicate dalla piattaforma e l'osservabilità end to end.
• Questo corso introduce i principi della cultura GenAIOps nel concreto e le pratiche moderne. Potrai seguire l'intero ciclo di vita di un'applicazione basata sull'IA, dal versioning di prompt e configurazione fino all'implementazione, alla valutazione continua e alle operazioni di manutenzione post-lancio. Al termine del corso, sarai in grado di applicare i principi GenAIOps e di sfruttare Red Hat AI Enterprise per promuovere e guidare le iniziative di trasformazione dell'IA generativa all'interno della tua organizzazione.

Vantaggi per i partecipanti

• Al termine del corso, avrai acquisito familiarità con la piattaforma di IA gen, saprai dove si colloca Red Hat AI Enterprise all'interno dell'ecosistema GenAIOps e sperimenterai un ciclo di vita delle applicazioni basato sull'IA dall'inizio alla fine. Acquisirai modelli pratici per creare, distribuire ed eseguire applicazioni basate sull'IA in modo scalabile, scoprendo tutti i passaggi del processo che consentono di passare dal prototipo alla produzione mantenendo l'affidabilità.

Esami o corsi successivi consigliati

• MLOps Practices with Red Hat OpenShift AI (AI500) per i team che usano anche l'IA predittiva e i modelli di machine learning
• Red Hat OpenShift Administration II: Configuring a Production Cluster (DO280) per gli ingegneri della piattaforma che desiderano approfondire la conoscenza di OpenShift