Nella prima e nella seconda parte di questa serie abbiamo esaminato perché un'inferenza efficiente stia diventando una necessità economica e perché l'IA sovrana richieda l'indipendenza dell'infrastruttura. Ma chi dovrebbe creare l'infrastruttura alla base dell'IA?
L'infrastruttura di IA influisce sulle prestazioni, ma anche su altri aspetti. Determina la rapidità con cui le organizzazioni possono adottare nuovo hardware, integrare modelli emergenti e adattarsi alla continua evoluzione delle funzionalità di IA.
L’innovazione dell'IA è troppo rapida per essere gestita da una sola azienda
La tecnologia di IA sta cambiando su tutti i livelli. Il rilascio di nuovi modelli fondativi è costante, i fornitori di acceleratori continuano a introdurre nuove architetture e le organizzazioni distribuiscono l'IA in cloud pubblici e privati, ambienti edge e nell'infrastruttura on premise.
Nessuna azienda, da sola, può innovare in ogni ambito di questo ecosistema, e non dovrebbe nemmeno avere l’obbligo di farlo. Naturalmente, ogni organizzazione dà la priorità ai propri prodotti, clienti e piani d'azione. Tuttavia, le aziende hanno bisogno di un'infrastruttura che si evolva insieme all'ecosistema più ampio, e non solo per stare al passo con le priorità di un singolo fornitore.
L'IA open source è la strada da percorrere
L'open source crea un ecosistema neutrale per la collaborazione e l'innovazione condivisa.
Invece di risolvere isolatamente le stesse sfide di orchestrazione, pianificazione, osservabilità e interoperabilità, le organizzazioni lavorano in modo aperto continuando a creare un valore unico. Il risultato è un software più resiliente, più adattabile e meglio preparato a evolversi in base alle esigenze dell'IA.
Questo modello collaborativo avvantaggia tutti. I fornitori di hardware ottengono un supporto più ampio per la piattaforma, i provider cloud maggiore flessibilità, le aziende di software dedicano meno tempo a ricostruire le funzionalità di base e le aziende ottengono la libertà di adottare nuove tecnologie senza essere vincolate dal piano d'azione di un singolo fornitore.
llm-d in azione
llm-d dimostra la potenza dell'IA open source. Sviluppato da un gruppo di collaboratori open source di primo piano, tra cui CoreWeave, Google, IBM, NVIDIA, Red Hat e altri, llm-d affronta una delle sfide infrastrutturali più importanti nell'IA per le aziende: orchestrare l'inferenza in modo efficiente in ambienti sempre più eterogenei, mantenendo livelli di prestazioni elevati.
Ogni miglioramento apportato dalla community rafforza una base condivisa che altri possono adottare, estendere e perfezionare. Invece di creare un ulteriore area proprietaria isolata, llm-d aiuta a sviluppare un ecosistema interoperabile in cui l'innovazione si moltiplica nel tempo.
La community crea resilienza
L'IA continuerà a cambiare, con nuovi modelli, nuovo hardware e nuovi schemi di deployment che ridefiniscono il modo in cui le organizzazioni creano applicazioni intelligenti. Nessuno può prevedere quale sarà la prossima svolta, ed è per questo che l'IA sviluppata tramite l'open source è creata per durare.
Progetti come llm-d dimostrano che l'infrastruttura più resiliente non appartiene a una singola azienda, ma è rafforzata da una community. Risolvendo insieme le sfide condivise, l'ecosistema open source crea software che offre alle organizzazioni qualcosa di sempre più prezioso: la libertà di adattarsi.
Per approfondire
Brian Stevens e Robert Shaw di Red Hat spiegano perché organizzazioni e aziende si affidano agli ecosistemi open source per risolvere le comuni sfide legate all'IA.
- Guarda la discussione completa
- Guarda una breve sintesi
- Leggi l'articolo del blog: Cos'è llm-d e a cosa serve?
- Scopri di più su llm-d
Segui la serie
Prima parte: llm-d: Breaking the cost and capacity barriers
Seconda parte: Scaling agentic AI: How llm-d enables infrastructure sovereignty
Risorsa
Muovi i primi passi con l'inferenza IA
Sull'autore
Pete serves as the Principal Community Architect for AI within Red Hat’s Open Source AI Program Office (OSAIPO). In this role, he drives community development and engagement for Red Hat’s open source AI initiatives, including key projects like llm-d. Pete helps scale Red Hat’s contributions to AI by supporting the open source communities and developers working to advance these technologies.
Altri risultati simili a questo
Oltre l'OCR: raggiungi una precisione al 98% nella fatturazione con GroundX e Red Hat OpenShift AI
Perché il tuo framework degli agenti di IA non è completo: 7 funzionalità della piattaforma mancanti in produzione
Can we trust AI agents in the enterprise?
Can agentic AI patch the internet?
Ricerca per canale
Automazione
Novità sull'automazione IT di tecnologie, team e ambienti
Intelligenza artificiale
Aggiornamenti sulle piattaforme che consentono alle aziende di eseguire carichi di lavoro IA ovunque
Hybrid cloud open source
Scopri come affrontare il futuro in modo più agile grazie al cloud ibrido
Sicurezza
Le ultime novità sulle nostre soluzioni per ridurre i rischi nelle tecnologie e negli ambienti
Edge computing
Aggiornamenti sulle piattaforme che semplificano l'operatività edge
Infrastruttura
Le ultime novità sulla piattaforma Linux aziendale leader a livello mondiale
Applicazioni
Approfondimenti sulle nostre soluzioni alle sfide applicative più difficili
Virtualizzazione
Il futuro della virtualizzazione negli ambienti aziendali per i carichi di lavoro on premise o nel cloud