I tuoi modelli Red Hat OpenShift AI sono pronti per l’uso. Chi li utilizzerà?

Hai addestrato il modello, lo hai pacchettizzato su Red Hat OpenShift AI ed è pronto per essere utilizzato. Il passaggio successivo consiste nell'esporlo tramite una API in modo che persone e applicazioni possano utilizzarlo. In quel momento, il tuo modello smetterà di essere un esperimento interno e diventerà un servizio disponibile. E come succede alle porte di accesso, qualcuno verrà a bussare... A volte, a bussare è l'utente giusto, altre volte no.

Il tuo modello non è più solo un progetto in un laboratorio: è un endpoint di produzione. E come ogni endpoint, è un obiettivo. Come puoi assicurarti che solo le applicazioni e gli utenti giusti interagiscano con esso? Come proteggerai i dati sensibili su cui potrebbe essere addestrato o la logica proprietaria che contiene?

La nuova porta di accesso è una API

Ogni endpoint API è un bersaglio. Per i modelli di IA, la superficie di attacco è maggiore rispetto a quella di una semplice app. I modelli possono essere indotti a divulgare dati attraverso semplici attacchi denial-of-service, ma anche tramite prompt injection, oppure possono rivelare dati di addestramento sensibili tramite attività di probing. Anche quando non vengono divulgati dati sensibili, gli autori degli attacchi possono tentare di dirottare cicli di calcolo o di estrapolare risposte in blocco.

Con la distribuzione su cloud, datacenter e siti edge, questi rischi aumentano. L'applicazione delle policy di sicurezza diventa più complessa, il versioning è meno preciso e i controlli di conformità diventano più difficili da realizzare. Senza una visibilità adeguata, spesso capita di accorgersi di movimenti insoliti quando ormai è troppo tardi.

Come funziona la collaborazione tra Red Hat e F5

OpenShift AI offre una piattaforma container coerente per creare, addestrare e distribuire modelli in diversi ambienti. Standardizza le modalità di creazione dei pacchetti dei carichi di lavoro, di gestione dei cicli di vita e la scalabilità dell'infrastruttura.

F5 offre la sua Application Delivery and Security Platform (ADSP), leader del settore, che fornisce un ampio supporto ai deployment di applicazioni in ambienti ibridi e multicloud. F5 Distributed Cloud Services è il livello scalabile di ADSP basato su Software-as-a-Service (SaaS); è distribuibile al fine di proteggere gli endpoint API da un ampio spettro di attacchi grazie alle seguenti funzionalità.

• Rilevamento API e convalida dello schema: individua tutti gli endpoint dei modelli (anche quelli dimenticati), applica i contratti e blocca le chiamate errate o dannose.
• Rilevamento delle minacce e gestione del traffico: individua tentativi di injection, scraping o abusi in tempo reale, bilanciando il traffico per mantenere una bassa latenza.
• Visibilità centralizzata: una dashboard per visualizzare l'utilizzo, applicare policy e garantire la conformità tra deployment ibridi o multicloud.
• Automazione e coerenza delle policy: le regole di sicurezza seguono il modello ovunque venga eseguito, riducendo il carico di lavoro manuale e aiutando i team a rilasciare più velocemente nuove versioni.

Insieme, Red Hat e F5 riducono il compromesso tra velocità e sicurezza.

Crea ed esegui più velocemente, proteggiti al meglio

I team di data science e applicazioni non vogliono che la sicurezza sia un elemento aggiuntivo. È necessario che sia integrata nella pipeline, affinché sia possibile rilasciare aggiornamenti in tutta sicurezza. OpenShift AI offre le basi per un approccio MLOps. F5 contribuisce a garantire che le API su cui si basano questi modelli non siano un punto debole.

Ciò significa che quando i tuoi modelli iniziano a comunicare, puoi essere certo che lo facciano solo con le persone giuste.

• Sherard Griffin racconta come Red Hat rende l'IA accessibile alla tua azienda con Red Hat OpenShift
• Scopri come i servizi cloud distribuiti di F5 proteggono i tuoi modelli di IA