Zero Trust MLOps con OpenShift Platform Plus

L'intelligenza artificiale (IA) si è evoluta diventando una delle maggiori priorità per le organizzazioni a causa del volume crescente di dati generati dai data center principali all'edge. Allo stesso modo, l'adozione di Kubernetes negli ultimi 10 anni ha migliorato la scalabilità, l'affidabilità e la resilienza aziendale.

Sebbene Kubernetes abbia portato enormi vantaggi, la gestione operativa e la sicurezza continuano a essere impegnative. Gestire l'integrità della catena di distribuzione del software, monitorare la sicurezza delle immagini dei container e degli ambienti di runtime e applicare i criteri di conformità può essere complicato.

Le organizzazioni si trovano spesso a dover gestire scenari di utilizzo di IA e machine learning (AI/ML) per l'adozione in tutta l'azienda.L'approccio MLOps aiuta i team a eseguire il provisioning dell'infrastruttura, lo staging dei modelli, la gestione delle dipendenze, l'orchestrazione delle chiamate dei modelli e l'offerta di modelli di IA in modo scalabile per accelerare il time-to-value delle applicazioni AI/ML per le organizzazioni. In modo simile a quanto avvenuto con l'adozione delle metodologie DevOps per lo sviluppo di applicazioni, grazie all'adozione di Kubernetes per modelli di dati, MLOps sta prendendo piede e consente l'autoriparazione, la scalabilità automatica, pipeline automatizzate e molte altre funzionalità.

Un processo MLOps prevede cinque fasi principali:

1. Acquisizione di dati da diverse sorgenti
2. Ottimizzazione e convalida dei dati
3. Addestramento dei modelli di dati
4. Deployment scalabile dei modelli per abilitare le applicazioni di IA
5. Monitoraggio e modifica continui di modelli e applicazioni di IA

Red Hat OpenShift AI è realizzato utilizzando tecnologie open source e offre una piattaforma MLOps flessibile e scalabile con strumenti per la creazione, il deployment e la gestione di applicazioni abilitate all'IA. Riunisce una efficace suite di strumenti progettati per rendere il fine-tuning e il serving dei modelli fondativi più fluidi, scalabili ed efficienti, semplificando il processo di data science dallo sviluppo del modello al deployment.

Red Hat OpenShift Platform Plus funge da base per gli approcci MLOps, fornendo un ambiente collaborativo per data scientist, analisti, team operativi e sviluppatori, con un ritorno sull'investimento del 210 % e un miglioramento dell'efficienza dei data scientist del 20%. OpenShift AI e OpenShift Platform Plus offrono una piattaforma hybrid cloud open source più sicura per l'esecuzione di modelli di data science, che consente controlli più rigidi su sviluppo delle applicazioni, provenienza dei modelli, governance e rilevamento delle minacce in fase di runtime.

Gli errori di configurazione di Kubernetes costituiscono gravi minacce ai carichi di lavoro di IA containerizzati perché permettono agli autori di crimini informatici di sfruttare le impostazioni per danneggiare le aziende (ad esempio, consentendo l'accesso anonimo con privilegi elevati o ottenendo l'accesso ai dati a cui gli utenti non sono autorizzati ad accedere). La sicurezza dei modelli di dati deve essere presa in considerazione all'inizio della pipeline MLOps e non deve essere messa in secondo piano. OpenShift Platform Plus, insieme alle soluzioni offerte dai partner dell'ecosistema di Red Hat, riduce la complessità applicando le policy di sicurezza e fornendo un'architettura zero trust per l'esecuzione dei modelli di IA sulla piattaforma.

Ecco 12 aspetti di OpenShift Platform Plus che rendono possibile tutto questo:

1. Red Hat Enterprise Linux CoreOS: OpenShift viene eseguito su Red Hat Enterprise Linux CoreOS, fornendo le stesse funzionalità avanzate di aggiornamento automatizzato e remoto di Red Hat Enterprise Linux (RHEL), migliorando la sicurezza e l'esperienza per sviluppatori, data scientist e team operativi.
2. Controllo degli accessi basato sui ruoli (RBAC): RBAC consente di controllare in modo dettagliato chi dispone di vari livelli di accesso al cluster, aiutando a definire limiti rigorosi tra i diversi progetti e bloccando l'accesso non autorizzato alle risorse.
3. Auditing e monitoraggio: OpenShift offre la possibilità di controllare e monitorare il cluster in diversi modi, tra cui metriche, avvisi, log, dashboard e così via.
4. Controllo degli accessi basato sul contesto: Red Hat Single Sign-On (SSO), incluso in OpenShift, fornisce la federazione delle identità basata su SAML 2.0, OpenID Connect e OAuth 2.0.
5. Autenticazione a più fattori: OpenShift supporta più provider di identità, tra cui Active Directory, LDAP, OpenID Connect.
6. Quote e intervallo limite: OpenShift consente di applicare quote di risorse per progetto per limitare i danni causati dagli attacchi denial of service. Vengono applicati anche la segregazione dello spazio dei nomi e l'isolamento dello storage.
7. Operatore di conformità: questo operatore consente di valutare lo stato di conformità del cluster richiesto e di fornire una panoramica delle lacune e modi per correggerle.
8. Gestione delle vulnerabilità in tempo reale: Red Hat Advanced Cluster Security for Kubernetes consente di rilevare e limitare i criteri di rete in base alle porte e ai protocolli delle applicazioni.
9. Crittografia: Red Hat OpenShift Data Foundation supporta la crittografia a livello di cluster (encryption-at-rest) per tutti i dischi e le operazioni multicloud di Object Gateway nel cluster di storage.
10. Implementazione del controllo delle versioni: Quay.io aiuta a prevenire il deployment di immagini con vulnerabilità note.
11. Segreti: OpenShift fornisce un meccanismo per archiviare informazioni sensibili come password, file di configurazione e credenziali del repository per evitare il danneggiamento dei dati.
12. Immagini dei container aggiornate regolarmente: OpenShift semplifica le attività quotidiane e i controlli di integrità per migliorare la velocità di risoluzione delle vulnerabilità.

Riassumendo, Red Hat offre una piattaforma di cloud ibrido open source enterprise-ready che consente ai data scientist e agli sviluppatori di integrare, ottimizzare, automatizzare e semplificare la creazione di un'architettura zero trust per i processi MLOps. Per ulteriori informazioni, contatta il team dedicato al tuo account.