Il NAIRR, Red Hat e l'open source offrono un piano di controllo per la ricerca nell’ambito dell'IA

I progetti di intelligenza artificiale (IA) nella community open source crescono a un ritmo entusiasmante e stimolante. Il 2025 AI Index Report della Stanford University rivela che, nell’anno precedente, su GitHub sono stati creati ben 4,3 milioni di progetti di IA open source, evidenziando un aumento del 40% in soli 12 mesi. Per chi si occupa di ricerca, questo slancio è fondamentale, ma presenta anche una sfida cruciale: come collaborare in modo aperto senza perdere il controllo sui dati e sulla proprietà intellettuale? 

In un contesto di ricerca, non è importante soltanto essere proprietari dell'hardware, ma anche avere il controllo amministrativo sul proprio ambiente. I dati sono vitali per l'attività di ricercatori e scienziati, i quali devono avere la certezza che i propri input esclusivi siano protetti in uno spazio condiviso. Questa capacità di controllare e proteggere in modo indipendente l'impronta digitale di un progetto è ciò che consente di creare un ambiente di ricerca realmente collaborativo. Fortunatamente, nella community di ricerca è emersa una soluzione: un modo per colmare il divario attraverso il controllo a livello di progetto e un approccio più intelligente per gestire la gravità dei dati.

Nel mio ruolo in Red Hat, ho avuto la fortuna di lavorare con il programma National AI Research Resource (NAIRR). Guidato dalla National Science Foundation (NSF), il programma NAIRR è stato istituito per evolvere le risorse di ricerca statunitensi così da affrontare le sfide dello sviluppo dell'IA e per democratizzare l'accesso alle risorse di calcolo e ai dati di IA di fascia alta, solitamente disponibili solo per le più grandi aziende tecnologiche. Il NAIRR, che si sta trasformando in una risorsa di ricerca a lungo termine, sta creando un'infrastruttura nazionale scalabile che supporta ricercatori e docenti di ogni estrazione. Sebbene questo progetto sia una pietra miliare nella ricerca statunitense, rappresenta anche un esempio replicabile di come i progetti possano mantenere indipendenza e trasparenza in un ambiente condiviso.

L'architettura dell'isolamento della ricerca

Il NAIRR funge da punto di aggregazione: un modello per un'infrastruttura efficiente su larga scala che elimina la necessità, per i ricercatori, di creare migliaia di copie individuali delle risorse.  Con oltre 670 progetti e partecipanti provenienti da tutti gli Stati Uniti e dai relativi territori coinvolti sin dalla fase pilota, la portata del progetto è evidente.  Tuttavia, affinché un punto di aggregazione sia efficace, ogni partecipante ha bisogno di uno spazio personalizzato in base alle proprie specifiche esigenze di ricerca per poter prosperare. Il NAIRR utilizza questo approccio per aiutare chi innova a consolidare il proprio lavoro su una base open source senza rinunciare al controllo. Al fine di aiutare i ricercatori a mantenere questi requisiti per il progetto Deep Partnership Pilot, gestito in collaborazione da Red Hat e IBM, l'AI Alliance e il Mass Open Cloud, Red Hat fornisce un livello di software che orchestra l'hardware sottostante. Questo offre, a chi si occupa di ricerca, gli strumenti e le funzionalità necessari per mantenere il controllo autonomo sul proprio spazio dei nomi all'interno di un cluster multitenant, consentendo al provider di risorse di gestire l'ambiente in modo efficiente. I ricercatori che lavorano al progetto NAIRR hanno accesso alla nostra infrastruttura di IA di livello enterprise, che include Red Hat OpenShift, Red Hat OpenShift AI, Red Hat Enterprise Linux e Red Hat Advanced Cluster Management for Kubernetes.

La nostra offerta di tecnologie coerenti per l'intero ciclo di vita degli esperimenti in ambito di IA e machine learning supporta un ecosistema collaborativo in cui l'innovazione può prosperare, senza compromettere il controllo del progetto. Ad esempio, utilizzando Red Hat OpenShift, puoi assegnare a ogni progetto il proprio spazio dei nomi Kubernetes e la propria VLAN di livello 2. Hai inoltre la possibilità di utilizzare il controllo degli accessi basato sulle risorse (RBAC) e creare gruppi con diversi livelli di accesso alle risorse e ai dati nell'ambito del tuo progetto o in collaborazione con altri. Questa configurazione tecnica conferma che, anche in un datacenter condiviso, ogni progetto dispone dell'isolamento di un proprio spazio per proteggere il traffico di rete e i dati da accessi non autorizzati. Questa base aiuta i ricercatori a passare dai test iniziali ai risultati convalidati, mantenendo l'indipendenza durante tutto il percorso tecnologico.

Bilanciare scalabilità condivisa e proprietà esclusiva

Il valore dell'approccio del NAIRR risiede nella sua efficienza e nella sua capacità di gestire la gravità dei dati. Fornendo una base open source condivisa, ovvero l'ambiente software in esecuzione su questa infrastruttura, Red Hat aiuta le organizzazioni a massimizzare i vantaggi degli investimenti per l'infrastruttura e a mantenere la potenza di calcolo vicina ai dati. I nostri contributi fanno parte di un ecosistema collaborativo più ampio, insieme a molti altri strumenti e risorse a disposizione degli scienziati per personalizzare il proprio lavoro.

Poiché la ricerca non segue un modello unico per tutti, il livello di controllo richiesto può variare. A volte, l'isolamento di cui i ricercatori hanno bisogno si estende oltre i confini definiti dal software e raggiunge l'hardware stesso. Mentre molti ricercatori lavorano in modo efficiente su piattaforme condivise, altri necessitano della proprietà esclusiva dell'hardware per misurazioni specializzate, come lo sviluppo di sistemi operativi di basso livello o i test di GPU ad alta precisione. Per supportare tutto ciò, il NAIRR fornisce anche l'accesso a macchine bare metal isolate. Che tu utilizzi container gestiti da OpenShift o hardware, ti forniamo il collante operativo stabile e sicuro che ti consente di essere indipendente nel tuo lavoro pur partecipando a questa community condivisa.

Fai spazio alla sperimentazione

Un aspetto fondamentale di questo lavoro consiste nel fornire un ambiente stabile in cui esplorare anche il futuro dell’intelligenza. Nell'era dell’abbondanza dei modelli di IA, la potenza di elaborazione è una risorsa globale scarsa e dobbiamo farne un uso più efficiente. È qui che i banchi di prova isolati diventano preziosi: ci consentono di sperimentare nuove categorie come il routing dell'inferenza (che indirizza in modo intelligente attività semplici a modelli di IA convenienti, riservando enormi risorse di elaborazione per i problemi più complessi) senza interrompere la ricerca di base.

Ad esempio, uno dei progetti supportati dal NAIRR, Multi-Modal Semantic Routing for vLLM, è dedicato all'estensione del progetto vLLM Semantic Router fondato da Red Hat. Questo impegno si concentra sulle pipeline di sintesi vocale e sulle capacità di visione, esplorando come mantenere una logica decisionale trasparente e verificabile in un ambiente open source. Fornendo queste sandbox, aiutiamo progetti specifici a superare i limiti della ricerca sull'IA garantendo al contempo la stabilità della community in generale.

Questa capacità di sperimentazione è particolarmente vitale nel momento in cui il settore si sposta verso l'IA agentica, in cui i modelli vanno oltre l’IA generativa per eseguire attività complesse e autonome. Affinché questa tendenza si trasformi da un’aspettativa del settore a un’innovazione scientifica, ai ricercatori non serve solo potenza pura: necessitano di un canale per l'innovazione che offra gestione del ciclo di vita e standardizzazione di livello professionale. Ai ricercatori occorrono controlli e guardrail per l'accesso umano e lo stesso livello di supervisione per gli agenti che accedono ai dati e all'elaborazione nell'ambito dei loro progetti.

Man mano che l'ecosistema NAIRR matura, fornisce esattamente quell'ambiente. Red Hat facilita questo processo fornendo una base solida, ovvero lo stack integrato di Red Hat Enterprise Linux, Red Hat OpenShift e Red Hat OpenShift AI, che consente a un insieme di potenti strumenti di ricerca, come PyTorch per l'ottimizzazione e SLURM per la gestione dei carichi di lavoro, di funzionare come una base unificata ad alte prestazioni. Questo consente di creare, addestrare e distribuire agenti autonomi con lo stesso livello di rigore enterprise richiesto dalla scienza ad alto rischio.

Il lavoro che stiamo svolgendo con il progetto NAIRR è la prova che l'innovazione open source è il modo migliore per creare un'IA stabile e flessibile dal punto di vista operativo e che le risorse condivise e il controllo individuale non sono in contrasto. Fornendo una base di strumenti open source che supportano i limiti a livello di progetto, Red Hat contribuisce a dimostrare che il futuro dell'IA può essere sia collaborativo che indipendente.