Tirer parti de l'IA générative avec Cloudera Data Platform et Red Hat OpenShift

Dans de nombreux films de science-fiction, on peut voir une équipe demander à un ordinateur de résoudre un problème. L'ordinateur arrive avec une voix calme pour présenter des solutions possibles. L'équipe écoute attentivement et poursuit la conversation comme si elle parlait à un collègue. C'était un rêve scientifique il n'y a pas si longtemps. De nombreux enfants rêvaient de disposer d'un ordinateur pour les aider à naviguer dans l'espace en territoires inconnus. En 2023, et il ne s'agit plus d'une science-fiction, mais bien d'une réalité. Oui, nous parlons de l'introduction et de l'adoption à grande échelle de l'intelligence artificielle générative (GenAI).

Cette technologie a introduit un nouveau domaine. L'IA générative permet non seulement de répondre à des questions et de présenter des solutions, mais elle peut également écrire des poèmes, réaliser des tableaux et même composer de la musique.

Au cœur de la technologie d'IA générative se trouve l'apprentissage automatique (AA), qui implique l'utilisation de plusieurs grands ensembles de données pour composer des contenus de manière autonome. Il est associé à un grand modèle de langage qui utilise l'apprentissage profond pour effectuer diverses tâches de traitement du langage naturel (TLN). Il utilise un modèle de transformateur avec un énorme ensemble de données, d'où le terme « grand ».

Dans les scénarios de science-fiction, l'IA générative est utilisée dans les opérations quotidiennes. Et si nous appliquions cet exemple aux scénarios métier, où les membres de l'entreprise peuvent utiliser le modèle pour les aider à prendre des décisions pertinentes pour leur activité ? L'IA générative peut ainsi prédire la disponibilité de la chaîne logistique pour fabriquer un produit depuis une usine ou indiquer la nécessité d'approvisionner un stock dans un magasin de détail afin de garantir sa disponibilité aux clients. Les possibilités sont infinies.

Cet article aborde les principales difficultés que rencontrent les entreprises lorsqu'elles déploient des charges de travail d'IA générative et la manière dont Cloudera et Red Hat collaborent pour exploiter le potentiel de l'IA générative et optimiser l'exploitation de leurs données en renforçant la gouvernance et en améliorant la posture de sécurité.

Comprendre les défis de l'IA générative privée et son importance

S'il est indéniable que les solutions d'IA générative et des grands modèles de langage ont le pouvoir de transformer la manière dont les entreprises fonctionnent et interagissent avec leurs clients, il ne s'agit pas d'une solution universelle. Les entreprises qui les adoptent doivent mettre en œuvre des pratiques pour atténuer les risques et les défis inhérents et chercher le moyen de les résoudre en vue de créer des solutions basées sur l'IA plus responsables et plus fiables.

Le premier défi lié à l'adoption de l'IA générative dans les entreprises est la confidentialité des données. Il s'agit d'une préoccupation majeure pour toutes les entreprises, mais l'IA générative introduit une couche de complexité supplémentaire en raison de :

1. la grande quantité de données requises pour l'entraînement des modèles ;

2. les nouvelles données LLM générées en sortie.

En outre, ces invites peuvent injecter par inadvertance des données sensibles ou confidentielles dans un grand modèle de langage, ce qui peut engendrer des fuites et une exposition. En outre, les services d'IA générative hébergés dans des clouds publics peuvent présenter un risque pour les entreprises qui stockent et traitent des données confidentielles et sensibles. Celles-ci pourraient être exposées en cas de faille de sécurité ou d'accès non autorisé.

Pour faire face à ces risques de confidentialité des données, les entreprises intègrent l'IA générative dans les clouds privés afin d'éviter de transférer leurs données critiques et sensibles vers un service d'IA générative hébergée publiquement. Ainsi, les entreprises peuvent réutiliser les modèles de fondation au sein de leurs clouds privés et ainsi mieux protéger et régir leurs données confidentielles.

Un autre défi inhérent est la limitation contextuelle des grands modèles de langage. Si les services d'IA publics sont intéressants pour les entreprises, celles-ci doivent créer ces expériences interactives à partir de leurs données propriétaires dans le bon contexte, sans les partager avec des services externes. De puissants grands modèles de langage peuvent couvrir des sujets variés, qu'il s'agisse de conseils sur les modes de vie ou d'informations pour la conception d'architectures de transformateurs. Cependant, les entreprises ont des besoins bien plus spécifiques : elles ont besoin de réponses adaptées à leur contexte métier.

La mise en œuvre d'un nouveau projet d'IA générative peut nécessiter un nouvel ensemble d'outils et de compétences. Toutefois, l'utilisation d'une plateforme d'analyse des données exécutée sur une plateforme de développement puissante offrira aux entreprises un accès facile à la mise en œuvre d'une stratégie et d'un projet d'IA générative. Avec ces plateformes performantes, les entreprises peuvent exploiter leurs compétences et connaissances existantes, et accélérer la mise sur le marché de leurs services.

Cloudera Data Platform sur Red Hat OpenShift

La solution Cloudera Data Platform (CDP) Private Cloud fournit de puissantes charges de travail d'analyse, de transaction et d'apprentissage automatique sur une plateforme de données hybride basée sur Kubernetes. Naturellement, les services de données de cloud privé CDP fonctionnent sur Red Hat OpenShift et utilisent de nombreuses fonctionnalités supplémentaires fournies par OpenShift.

Le déploiement du cloud privé CDP sur OpenShift apporte de nombreux avantages au déploiement global, notamment :

• Amélioration de la posture de sécurité : à mesure que les applications sont déployées ou mises à jour, il est essentiel de prévoir des contrôles de sécurité dynamiques pour maintenir la sécurité de l'entreprise. La solution OpenShift peut appliquer des contrôles de sécurité à la chaîne logistique des logiciels, avec à la clé une sécurité renforcée des applications sans réduction de la productivité de l'équipe de développement. Red Hat OpenShift permet aux entreprises de contrôler, de protéger et d'enrichir leur plateforme d'applications tout au long de son cycle de vie.
• Gouvernance et conformité : La solution Red Hat Advanced Cluster Management for Kubernetes, incluse dans Red Hat OpenShift Platform Plus, permet aux entreprises de déployer des applications plus rapidement, de gérer plusieurs clusters et d'appliquer des politiques à grande échelle dans plusieurs clusters.La solution OpenShift inclut des fonctions de sécurité essentielles telles que les contrôles d'accès, la mise en réseau et le registre d'entreprise, ainsi qu'un outil d'analyse intégré. La solution Red Hat Advanced Cluster Security for Kubernetes vous permet de profiter de fonctions de sécurité supplémentaires, notamment la détection des menaces à l'exécution, la gestion des vulnérabilités tout au long du cycle de vie et l'établissement du profil de risques.
• Facilité de gestion et flexibilité : OpenShift simplifie le déploiement et la gestion des infrastructures hybrides. Ainsi, vous pouvez exécuter un service autogéré ou entièrement géré sur site ou dans des environnements cloud et hybrides. Votre entreprise peut également utiliser ses dépenses engagées auprès de AWS et de Microsoft Azure pour acheter des solutions et des services Red Hat. Red Hat Advanced Cluster Management contrôle les clusters et les applications depuis une console unique, avec des politiques de sécurité intégrées.
• Évolutivité : les applications exécutées sur OpenShift peuvent évoluer jusqu'à des milliers d'instances sur des centaines de nœuds en quelques secondes. La solution Red Hat OpenShift simplifie et automatise les versions d'applications et de conteneurs, les déploiements, la mise à l'échelle, la gestion de l'intégrité, et bien plus encore.

Red Hat et Cloudera proposent une solution optimisée pour les charges de travail d'IA qui aide les entreprises à gérer le cycle de vie complet des données avec de meilleures capacités de sécurité, ce qui accélère la mise en œuvre des données et réduit le délai de rentabilisation. CDP Private Cloud on Red Hat OpenShift fournit des services de données conteneurisés pour l'ingénierie des données, les entrepôts de données et l'apprentissage automatique, ce qui permet aux entreprises d'extraire des informations plus exploitables de leurs données dans un environnement de cloud hybride optimisé pour les les opérations de sécurité ;

La plateforme hybride nouvelle génération de CDP Private Cloud, associée aux outils de gestion d'entreprise d'OpenShift, permet de provisionner et de mettre à l'échelle les charges de travail d'analyse de manière plus cohérente. Elle alloue juste suffisamment de ressources pour répondre à la demande, ce qui permet aux entreprises de :

• Donnez à chaque employé la possibilité de générer de la valeur à partir des données par le biais d'une interface unique et intuitive.
• Créez des environnements personnalisés pour les entreprises et gardez le contrôle du cycle de vie complet des données, tout en tirant parti des avantages financiers offerts par un environnement de cloud privé sur site.
• Déployez des services de données évolutifs et flexibles pour déplacer les données vers n'importe quelle plateforme, y compris les environnements hybrides, sans dépendance vis-à-vis d'un fournisseur.
• offrir une expérience plus cohérente aux spécialistes des données et aux développeurs dans un environnement moderne ;

Cloudera et Red Hat permettent aux entreprises de créer leurs propres applications d'IA sur la base du grand modèle de langage Open Source de leur choix, avec leurs données hébergées en interne. Cette approche permet aux développeurs et aux autres services (et pas seulement aux data scientists et aux équipes d'AA) de véritablement démocratiser l'IA, tout en améliorant la posture de sécurité, la gouvernance, la conformité et la facilité de gestion sur une seule plateforme. Nous vous invitons à découvrir les avantages de Cloudera et Red Hat en lisant ce témoignage client. Pour en savoir plus sur Cloudera Data Platform on Red Hat OpenShift, cliquez ici.