Según IDC, para que puedan aprovechar la IA con éxito, las empresas requerirán modernizar muchas de sus aplicaciones y entornos de datos existentes, así como eliminar obstáculos entre sus actuales sistemas y plataformas de almacenamiento, mejorar la sostenibilidad de la infraestructura y elegir con sumo cuidado dónde implementar diferentes cargas de trabajo en la nube, el centro de datos y el edge (borde). Para Red Hat, esto indica que las plataformas de Inteligencia Artificial tienen que ser flexibles para poder apoyar a las empresas a medida que avanzan en la adopción de la IA y van adaptando sus necesidades y recursos.
Por lo mismo, Red Hat, anunció esta semana los avances en Red Hat OpenShift AI, una plataforma híbrida abierta que permite a las empresas crear y entregar aplicaciones basadas en Inteligencia Artificial a gran escala en la nube híbrida.
Vale la pena señalar que, estas actualizaciones acentúan la visión de Red Hat de la IA y llevan el compromiso de la empresa con la libertad de elección del cliente al universo de las cargas de trabajo inteligentes, desde el hardware subyacente hasta los servicios y las herramientas que se usan para crear sobre la plataforma. Esto contribuye a acelerar la innovación, así como a mejorar la productividad y la capacidad de incorporar la Inteligencia Artificial en las operaciones comerciales diarias a través de una plataforma open source más flexible, escalable y al mismo tiempo, adaptable que permite tanto modelos predictivos como generativos, con o sin el uso de entornos de nube.
Lo que debe conocer acerca de Red Hat OpenShift AI
Es crucial entender que, al pasar los modelos de Inteligencia Artificial (IA) de la experimentación a producción, los clientes se enfrentan grandes e intrincados retos, que incluyen mayores costos de hardware, así como inquietudes respecto de la privacidad de los datos y falta de confianza al momento de compartir sus datos con modelos basados en SaaS. La IA generativa (IA Gen) evoluciona rápidamente y a muchas organizaciones les resulta difícil crear una plataforma central de Inteligencia Artificial confiable capaz de ejecutarse en modo local o en la nube.
La estrategia de IA de Red Hat aporta flexibilidad en toda la nube híbrida, proporciona la capacidad de optimizar los modelos básicos previamente entrenados o seleccionados con los datos de los clientes y la libertad de habilitar diversos aceleradores de hardware y software. Las características nuevas y mejoradas de Red Hat OpenShift AI cubren estas necesidades al brindar acceso a las últimas innovaciones y al soporte de un extenso ecosistema de partners centrado en AI. Lo anterior se ve reflejado en:
- Servicios de modelos en el edge, que extiende la implementación de modelos de Inteligencia Artificial (IA) a ubicaciones remotas mediante OpenShift de un sólo nodo que, suministra capacidades de inferencia en entornos con recursos limitados con acceso a la red intermitente o aislado.
- Servicios de modelos mejorado, es crucial señalar que, con la capacidad de usar múltiples servidores de modelos, lo cual, permite a los usuarios ejecutar IA predictiva y generativa en una única plataforma para múltiples casos de uso, disminuyendo costos y simplificando las operaciones del flujo de trabajo del usuario.
- Cargas de trabajo distribuidas con Ray, mediante el uso de CodeFlare y RayKube, con múltiples nodos de clúster para conseguir un procesamiento de datos y un entrenamiento de modelos más rápidos y al mismo tiempo, eficientes. Cabe acotar que, las capacidades centrales de gestión y cola permiten un aprovechamiento óptimo de los nodos y la asignación de recursos, como las GPU, a los usuarios y a las cargas de trabajo correspondientes.
- Desarrollo de modelos optimizado, mediante espacios de trabajo del proyecto e imágenes de bancos de trabajo adicionales que suministran a los científicos de datos la flexibilidad para usar IDE y kits de herramientas, incluidos VS Code y RStudio, actualmente disponibles como versión tecnológica preliminar, y una CUDA mejorada, para distintos casos de uso y tipos de modelos.
- Visualizaciones del monitoreo de modelos, los cuales permiten obtener métricas operativas y de funcionamiento, lo cual mejora la observabilidad del rendimiento de los modelos de Inteligencia Artificial (IA).
- Nuevos perfiles de aceleradores, los cuales, permiten a los administradores configurar diferentes tipos de aceleradores de hardware disponibles para el desarrollo de modelos y los flujos de trabajo de servicio de modelos. Esto consigue brindar a los usuarios un acceso sencillo y de autoservicio al tipo de acelerador apropiado para una carga de trabajo concreta.
