Los nuevos Chips de Amazon son 4 veces más rápidos para entrenar IA

Amazon Web Services (AWS) acaba de iniciar su conferencia “re:Invent” con sede en Las Vegas con una afluencia de anuncios, la mayoría de los cuales involucran la tecnología más popular del año, la Inteligencia Artificial (IA). Estas noticias, en su conjunto, nos ofrecen un adelanto de los objetivos a largo plazo de la importante compañía para las plataformas de IA.

Anuncios que en su mayoría involucran la IA

Primeramente, AWS dio a conocer su última generación de chips de IA destinado al entrenamiento de modelos y para ejecutar modelos entrenados. Trainium2, que evidentemente está destinado al entrenamiento de modelos, ha sido diseñado para brindar un rendimiento hasta 4 veces mejor y una eficiencia energética 2 veces mayor en comparación con su antecesor. Según se conoció, Amazon promete que estos chips permitirán a los programadores entrenar modelos rápidamente y a un costo menor, debido a una disminución en el uso de energía.

Graviton4, por otro lado, es más para uso general. Estos procesadores se basan en la arquitectura Arm, y, hasta donde se ha podido conocer, los mismos consumen menos energía que los chips Intel o AMD. Desde Amazon prometen un aumento del 30% en el rendimiento general cuando se utiliza un modelo de Inteligencia Artificial entrenado integrado en un procesador Graviton4. Según se informa, esto debería disminuir los costos de computación en la nube para las organizaciones que emplean regularmente modelos de IA y así mismo, brindar un ligero aumento en la velocidad para los usuarios habituales que sencillamente buscan tomar algunas fotos falsas de Harry Potter en una fiesta rave por ejemplo.

Para ser más precisos, en total, Graviton4 debería permitir a los clientes de Amazon Web Services procesar mayores cantidades de datos, escalar sus cargas de trabajo, así como también mejorar el tiempo de obtención de resultados e incluso, reducir el costo total de propiedad. Según se pudo conocer, ya se encuentra disponible en versión preliminar y se planea un lanzamiento más amplio para los próximos meses.

Habitualmente, cuando una empresa anuncia nuevos chips internos, eso significa problemas para los proveedores externos actuales como NVIDIA. La empresa es un actor importante en el espacio de la Inteligencia Artificial empresarial, gracias a que las empresas usan sus GPU para capacitación y su CPU Grace para centro de datos basado en Arm. En vez de evitar la asociación en favor de chips propietarios, Amazon está consolidando todavía más la relación al brindar a los clientes empresariales acceso en la nube a las últimas GPU H200 AI de NVIDIA. Incluso, también operará más de 16.000 Superchips Nvidia GH200 Grace Hopper expresamente para el equipo de investigación y desarrollo de NVIDIA. Se trata de un enfoque similar al de su principal rival en Inteligencia Artificial, Microsoft, que también anunció una asociación mejorada con NVIDIA al mismo tiempo que reveló su chip AI patentado, Maia 100.

Amazon anunció un nuevo chatbot

Amazon también anunció un nuevo chatbot de Inteligencia Artificial (IA) centrado en los negocios denominado “Q”, el cual se describe como un “nuevo tipo de asistente personal generativo impulsado por IA” y está diseñado concretamente para ayudar a optimizar los proyectos de trabajo y así mismo, las tareas de servicio al cliente. Según se informa, tiene la posibilidad de adaptarse a cualquier negocio y ofrece respuestas relevantes a las preguntas más frecuentes. “Amazon Q” también tiene la capacidad de poder generar contenido por sí solo y también de tomar acciones basadas en las solicitudes de los clientes. Incluso, según han dado a conocer, personalizará las interacciones según la función del usuario dentro de una empresa.

Existirá en aplicaciones de comunicación como Slack y en aplicaciones de edición de texto frecuentemente utilizadas por los desarrolladores de software. Con ese fin, “Q” tiene la capacidad de poder cambiar el código fuente y conectarse a más de 40 sistemas empresariales, incluidos Microsoft 365, Dropbox, así como también Salesforce y Zendesk, entre otros. El novedoso “Amazon Q” se encuentra actualmente disponible en versión preliminar, y próximamente habrá un lanzamiento más amplio. Costará entre $20 y $30 por usuario cada mes, según las funciones disponible.