Aprovecha el poder de la inteligencia artificial generativa con Cloudera Data Platform y Red Hat OpenShift

En muchas películas de ciencia ficción, el equipo le pide a una computadora que resuelva un problema. La computadora con una voz tranquila presenta las posibles soluciones. El equipo escucha atentamente y continúa la conversación como si hablara con un colega. Esto era una fantasía científica no hace mucho tiempo. Muchos niños soñaban con tener una computadora que los ayudara a navegar por territorios desconocidos. Avance rápido hasta 2023, y esto ya no es una idea de ciencia ficción, sino una realidad. Sí, estamos hablando de la introducción y la adopción generalizada de la inteligencia artificial generativa (GenAI).

Esta tecnología ha introducido una nueva frontera. GenAI no solo puede ayudar a responder preguntas y presentar soluciones, sino que también puede ofrecer poesía, crear pinturas e incluso componer música.

En esencia, GenAI es el aprendizaje automático (ML) que involucra varios conjuntos de datos grandes para componer contenido de forma autónoma. Se combina con un modelo de lenguaje grande (LLM) que usa el aprendizaje profundo para realizar diversas tareas de procesamiento de lenguaje natural (NLP). Utiliza un modelo de transformador con un gran conjunto de datos, de ahí el término grande.

En los escenarios de ciencia ficción, GenAI se usa en las operaciones diarias. ¿Qué sucede si aplicamos ese ejemplo a escenarios empresariales, donde los miembros de la organización pueden usar el modelo para ayudarlos a tomar decisiones relevantes para su negocio? Los ejemplos incluyen la predicción de la disponibilidad de la cadena de suministro para producir un producto de una fábrica o la indicación de la necesidad de inventario a una determinada tienda minorista para garantizar la disponibilidad para los clientes. Las posibilidades son infinitas.

En este artículo, se analizan algunos de los principales desafíos a los que se enfrentan las empresas al implementar las cargas de trabajo de GenAI, y se analiza la forma en que Cloudera y Red Hat colaboran para aprovechar el poder de GenAI y aprovechar mejor sus datos con un control y una estrategia de seguridad mejoradas.

Comprender los desafíos y la importancia de la IA generativa privada

Es innegable que los GenAI y los LLM tienen el poder de transformar la forma en que las empresas operan e interactúan con los clientes, pero ciertamente no son la panacea. Las empresas que las adopten deben implementar prácticas para mitigar los riesgos y los desafíos inherentes, y explorar formas de abordarlos para crear soluciones basadas en la inteligencia artificial más responsables y confiables.

El primer desafío asociado con la adopción empresarial de GenAI es la privacidad de los datos. Esta es una de las principales preocupaciones de todas las empresas, pero GenAI introduce una capa adicional de complejidad debido a:

1. La gran cantidad de conjuntos de datos necesarios para el entrenamiento del modelo.

2. Los nuevos datos que los LLM generarán como salida.

Además, las solicitudess pueden introducir datos confidenciales en un LLM sin darse cuenta, lo que genera posibles filtraciones y exposición. Además, los servicios de GenAI alojados en nubes públicas pueden representar un riesgo para las empresas que almacenan y procesan datos confidenciales que podrían quedar expuestos durante una falla de seguridad o un acceso no autorizado.

Para abordar estos riesgos de privacidad de los datos, las empresas están incorporando GenAI a las nubes privadas para evitar trasladar sus datos importantes y confidenciales a un servicio de GenAI alojado públicamente. De esta manera, las empresas pueden reutilizar los modelos base dentro de sus nubes privadas, lo que permite proteger y controlar mejor sus datos confidenciales.

Otro desafío inherente es la limitación contextual de los LLM. Si bien los servicios de inteligencia artificial disponibles al público son atractivos para las empresas, deben crear estas experiencias interactivas en sus datos propietarios en el contexto adecuado sin compartir sus datos con servicios externos. Los LLM potentes pueden abarcar diversos temas, desde brindar consejos sobre el estilo de vida hasta ibrindar información sobre el diseño de las arquitecturas de los transformadores. Sin embargo, las empresas tienen necesidades mucho más específicas: necesitan respuestas de acuerdo con su contexto empresarial.

La implementación de un nuevo proyecto de GenAI puede requerir un nuevo conjunto de herramientas y conocimientos. Sin embargo, el uso de una plataforma de análisis de datos que se ejecuta en una plataforma de desarrollo potente proporcionará a las empresas un acceso fácil para implementar una estrategia y un proyecto de GenAI. Al utilizar estas potentes plataformas, las empresas pueden aprovechar las habilidades y los conocimientos actuales, y agilizar la comercialización.

Cloudera Data Platform on Red Hat OpenShift

La nube privada de Cloudera Data Platform (CDP) ofrece potentes cargas de trabajo de análisis, transacciones y machine learning (aprendizaje automático) en una plataforma de datos híbrida con la tecnología de Kubernetes. Naturalmente, los servicios de datos de nube privada de CDP se ejecutan en Red Hat OpenShift y utilizan muchas de las funciones adicionales que ofrece OpenShift.

La implementación de la nube privada de CDP en OpenShift ofrece muchas ventajas para la implementación general, entre las que se incluyen las siguientes:

• Enfoque de seguridad mejorado: a medida que se implementan o se actualizan las aplicaciones, es fundamental proporcionar controles de seguridad dinámicos para ayudar a mantener la empresa lo más segura posible. OpenShift puede aplicar controles de seguridad a la cadena de suministro de software, lo que mejora las funciones de seguridad de las aplicaciones sin reducir la productividad de los desarrolladores. Red Hat OpenShift permite que las empresas controlen, protejan y amplíen su plataforma de aplicaciones durante todo su ciclo de vida.
• Control y cumplimiento: Red Hat Advanced Cluster Management for Kubernetes, que se incluye en Red Hat OpenShift Platform Plus, permite que las empresas implementen aplicaciones, gestionen varios clústeres y apliquen políticas en todos los clústeres según sea necesario con mayor rapidez. OpenShift ofrece funciones de seguridad básicas, como controles de acceso, redes y registro empresarial con un escáner integrado. Red Hat Advanced Cluster Security for Kubernetes mejora esto con funciones de seguridad adicionales, como la detección de amenazas en tiempo de ejecución, gestión de los puntos vulnerables durante todo el ciclo de vida y creación de perfiles de riesgo.
• Capacidad de gestión y flexibilidad: OpenShift simplifica la implementación y la gestión de una infraestructura híbrida, lo que le brinda la flexibilidad necesaria para ejecutar un servicio autogestionado o totalmente gestionado en las instalaciones, en la nube o en entornos híbridos. Su empresa también puede utilizar la inversión que se comprometió a realizar en AWS o Microsoft Azure en las soluciones y los servicios de Red Hat. Red Hat Advanced Cluster Managementcontrola los clústeres y las aplicaciones desde una sola consola, con políticas de seguridad integradas.
• Escalabilidad: las aplicaciones que se ejecutan en OpenShift pueden escalar a miles de instancias en cientos de nodos en segundos. Incluye la optimización y la automatización de las compilaciones, las implementaciones, el ajuste y la gestión del estado de las aplicaciones y los contenedores, entre otros.

Red Hat y Cloudera ofrecen una solución optimizada para las cargas de trabajo de inteligencia artificial que permite que las empresas gestionen todo el ciclo de vida de los datos con funciones de seguridad mejoradas, lo cual permite que los datos funcionen con mayor rapidez y se reduce el tiempo de obtención de resultados. La nube privada de CDP en Red Hat OpenShift ofrece servicios de datos en contenedores para ingeniería de datos,almacenamiento de datos yaprendizaje automático, lo que permite que las empresas obtengan más información procesable de sus datos en un entorno de nube híbrida optimizado para operaciones de seguridad.

La plataforma híbrida de última generación de nube privada de CDP, combinada con las herramientas de gestión de nivel empresarial de OpenShift, puede implementar y ajustar las cargas de trabajo de análisis de manera más uniforme, y asigna los recursos suficientes para satisfacer la demanda, lo que permite que las empresas:

• Permita que todos los empleados obtengan valor de los datos a través de un único panel intuitivo.
• Cree entornos personalizados de nivel empresarial y mantenga el control de todo el ciclo de vida de los datos mientras aprovecha las ventajas de costos de un entorno de nube privada local.
• Implemente servicios de datos escalables con la flexibilidad para trasladar los datos a cualquier plataforma, incluidos los entornos híbridos, sin depender de un proveedor.
• Ofrezca una experiencia más uniforme a los profesionales y desarrolladores de datos con un entorno moderno.

Con Cloudera y Red Hat, las empresas pueden diseñar sus propias aplicaciones de inteligencia artificial con la tecnología de un LLM open source de su elección con sus datos, todo alojado internamente en la empresa. Esto permite que los desarrolladores y las líneas de negocio, no solo los analistas de datos y los equipos de ML, puedan democratizar la inteligencia artificial y, al mismo tiempo, mantener un mejor enfoque de seguridad, control, cumplimiento y capacidad de gestión en una sola plataforma. Lo invitamos a conocer más de lo que Cloudera y Red Hat pueden ofrecer en esta historia de clientes. Además, obtenga más información sobre Cloudera Data Platform en Red Hat OpenShift aquí.