Nella prima e nella seconda parte di questa serie abbiamo esaminato perché un'inferenza efficiente stia diventando una necessità economica e perché l'IA sovrana richieda l'indipendenza dell'infrastruttura. Ma chi dovrebbe creare l'infrastruttura alla base dell'IA?

L'infrastruttura di IA influisce sulle prestazioni, ma anche su altri aspetti. Determina la rapidità con cui le organizzazioni possono adottare nuovo hardware, integrare modelli emergenti e adattarsi alla continua evoluzione delle funzionalità di IA.

L’innovazione dell'IA è troppo rapida per essere gestita da una sola azienda

La tecnologia di IA sta cambiando su tutti i livelli. Il rilascio di nuovi modelli fondativi è costante, i fornitori di acceleratori continuano a introdurre nuove architetture e le organizzazioni distribuiscono l'IA in cloud pubblici e privati, ambienti edge e nell'infrastruttura on premise.

Nessuna azienda, da sola, può innovare in ogni ambito di questo ecosistema, e non dovrebbe nemmeno avere l’obbligo di farlo. Naturalmente, ogni organizzazione dà la priorità ai propri prodotti, clienti e piani d'azione. Tuttavia, le aziende hanno bisogno di un'infrastruttura che si evolva insieme all'ecosistema più ampio, e non solo per stare al passo con le priorità di un singolo fornitore.

L'IA open source è la strada da percorrere 

L'open source crea un ecosistema neutrale per la collaborazione e l'innovazione condivisa.

Invece di risolvere isolatamente le stesse sfide di orchestrazione, pianificazione, osservabilità e interoperabilità, le organizzazioni lavorano in modo aperto continuando a creare un valore unico. Il risultato è un software più resiliente, più adattabile e meglio preparato a evolversi in base alle esigenze dell'IA.

Questo modello collaborativo avvantaggia tutti. I fornitori di hardware ottengono un supporto più ampio per la piattaforma, i provider cloud maggiore flessibilità, le aziende di software dedicano meno tempo a ricostruire le funzionalità di base e le aziende ottengono la libertà di adottare nuove tecnologie senza essere vincolate dal piano d'azione di un singolo fornitore.

llm-d in azione

llm-d dimostra la potenza dell'IA open source. Sviluppato da un gruppo di collaboratori open source di primo piano, tra cui CoreWeave, Google, IBM, NVIDIA, Red Hat e altri, llm-d affronta una delle sfide infrastrutturali più importanti nell'IA per le aziende: orchestrare l'inferenza in modo efficiente in ambienti sempre più eterogenei, mantenendo livelli di prestazioni elevati.

Ogni miglioramento apportato dalla community rafforza una base condivisa che altri possono adottare, estendere e perfezionare. Invece di creare un ulteriore area proprietaria isolata, llm-d aiuta a sviluppare un ecosistema interoperabile in cui l'innovazione si moltiplica nel tempo.

La community crea resilienza

L'IA continuerà a cambiare, con nuovi modelli, nuovo hardware e nuovi schemi di deployment che ridefiniscono il modo in cui le organizzazioni creano applicazioni intelligenti. Nessuno può prevedere quale sarà la prossima svolta, ed è per questo che l'IA sviluppata tramite l'open source è creata per durare. 

Progetti come llm-d dimostrano che l'infrastruttura più resiliente non appartiene a una singola azienda, ma è rafforzata da una community. Risolvendo insieme le sfide condivise, l'ecosistema open source crea software che offre alle organizzazioni qualcosa di sempre più prezioso: la libertà di adattarsi.

Per approfondire 

Brian Stevens e Robert Shaw di Red Hat spiegano perché organizzazioni e aziende si affidano agli ecosistemi open source per risolvere le comuni sfide legate all'IA.

Segui la serie

Prima parte: llm-d: Breaking the cost and capacity barriers

Seconda parte: Scaling agentic AI: How llm-d enables infrastructure sovereignty

Risorsa

Muovi i primi passi con l'inferenza IA

Scopri come creare sistemi di inferenza IA più intelligenti ed efficienti. Scopri di più su quantizzazione, sparsità e tecniche avanzate come vLLM con Red Hat AI.

Sull'autore

Pete serves as the Principal Community Architect for AI within Red Hat’s Open Source AI Program Office (OSAIPO). In this role, he drives community development and engagement for Red Hat’s open source AI initiatives, including key projects like llm-d. Pete helps scale Red Hat’s contributions to AI by supporting the open source communities and developers working to advance these technologies.

UI_Icon-Red_Hat-Close-A-Black-RGB

Ricerca per canale

automation icon

Automazione

Novità sull'automazione IT di tecnologie, team e ambienti

AI icon

Intelligenza artificiale

Aggiornamenti sulle piattaforme che consentono alle aziende di eseguire carichi di lavoro IA ovunque

open hybrid cloud icon

Hybrid cloud open source

Scopri come affrontare il futuro in modo più agile grazie al cloud ibrido

security icon

Sicurezza

Le ultime novità sulle nostre soluzioni per ridurre i rischi nelle tecnologie e negli ambienti

edge icon

Edge computing

Aggiornamenti sulle piattaforme che semplificano l'operatività edge

Infrastructure icon

Infrastruttura

Le ultime novità sulla piattaforma Linux aziendale leader a livello mondiale

application development icon

Applicazioni

Approfondimenti sulle nostre soluzioni alle sfide applicative più difficili

Virtualization icon

Virtualizzazione

Il futuro della virtualizzazione negli ambienti aziendali per i carichi di lavoro on premise o nel cloud