La “supercomputadora de IA personal” de Nvidia de 3.000 dólares permitirá olvidarse del centro de datos

Por si no lo sabía, Nvidia ya vende grandes cantidades de chips informáticos a todas las grandes empresas que construyen modelos de Inteligencia Artificial patentados. Pero lo cierto es que, ahora, en un momento en el que el interés público por la IA de código abierto y de fabricación casera se encuentra en alza, la compañía anunció que también empezará a brindar una “supercomputadora de IA personal” a finales de este año, a partir de 3.000 dólares, que cualquiera tiene la capacidad de poder utilizar en su propia casa u oficina.

Nvidia y su “supercomputadora de IA personal”

Es crucial dar a conocer que la nueva máquina de escritorio de Nvidia, denominada Digits, saldrá a la venta en el mes de mayo y tiene el tamaño de un libro pequeño. Contiene un “superchip” de Nvidia llamado GB10 Grace Blackwell, el cual se encuentra optimizado para acelerar los cálculos necesarios para entrenar y ejecutar modelos de Inteligencia Artificial, y viene equipado con 128 gigabytes de memoria unificada y hasta 4 terabytes de almacenamiento NVMe para gestionar programas de IA especialmente grandes.

Jensen Huang, fundador y director ejecutivo de Nvidia, anunció el nuevo sistema, junto con varias otras ofertas de Inteligencia Artificial, durante un discurso de apertura reciente en el CES.

“Colocar una supercomputadora de IA en los escritorios de cada científico de datos, investigador de IA y estudiante les permite participar y dar forma a la era de la IA”, comentó Huang en una declaración publicada antes de su discurso de apertura.

Nvidia comenta que la máquina Digits, que significa “sistema de entrenamiento de inteligencia de GPU de aprendizaje profundo”, tendrá la capacidad de poder ejecutar un solo modelo de lenguaje grande con hasta 200 mil millones de parámetros, una medida aproximada de la complejidad y el tamaño de un modelo. Para hacer esto hoy, necesitarías alquilar espacio de un proveedor de la nube como AWS o Microsoft, o construir un sistema personalizado con un conjunto de chips diseñados para ejecutar IA. Si 2 máquinas Digits se conectan mediante un enlace de interconexión de alta velocidad propietario, Nvidia dice que podrán ejecutar la versión más capaz disponible del modelo Llama de código abierto de Meta, que posee 405 mil millones de parámetros.

Según han dado a conocer, Digits facilitará a los aficionados e investigadores experimentar con modelos que se acercan a las capacidades básicas de GPT-4 de OpenAI o Gemini de Google en sus oficinas o sótanos. Pero las mejores versiones de esos modelos propietarios, alojadas dentro de centros de datos gigantes propiedad de Microsoft y Google, son posiblemente más grandes y más potentes que cualquier cosa que Digits pudiera manejar.

Cabe aclarar que, Nvidia ha sido uno de los mayores beneficiarios del auge de la Inteligencia Artificial (IA). El precio de sus acciones se disparó en los últimos años conforme las empresas de tecnología clamaban por comprar grandes cantidades de los chips de hardware avanzados que produce, un ingrediente crucial para desarrollar IA de vanguardia. La empresa ha demostrado su habilidad para fabricar hardware y software optimizados para la Inteligencia Artificial, y su hoja de ruta de productos se ha convertido en una señal importante de hacia dónde se espera que se dirija la industria.

Cuando salga al mercado, Digits será el hardware informático de consumo más potente que ofrece Nvidia.

Varias herramientas de software

Vale la pena destacar que, además del nuevo sistema de escritorio, Nvidia comentó recientemente que pronto lanzará varias herramientas de software para construir y conectar los llamados agentes de IA, programas que usan grandes modelos de lenguaje para llevar a cabo tareas útiles de forma autónoma en nombre de las personas. Esto incluye varias versiones personalizadas de Llama llamadas Nemotron que están afinadas y optimizadas para seguir instrucciones y planificar acciones con el fin de realizar tareas de agente. Los agentes se han convertido en la última tendencia en Inteligencia Artificial (IA) y muchas empresas los ven como una forma de incorporar la tecnología a sus operaciones para aumentar la eficiencia y al mismo tiempo, ahorrar dinero.

“La IA de Agentic es la próxima frontera del desarrollo de la IA y aprovechar esta oportunidad requiere una optimización completa en un sistema de LLM para ofrecer agentes de IA eficientes y precisos”, manifestó Ahmad Al-Dahle, vicepresidente y director de GenAI en Meta, en una declaración.

Jensen señaló durante su discurso de apertura en el CES que Nvidia espera que las empresas creen y mantengan agentes de IA utilizando su tecnología.

“En muchos sentidos, el departamento de TI de cada empresa será el departamento de recursos humanos de los agentes de IA en el futuro”, expresó el CEO.

Así mismo añadió, “En el futuro, mantendrán, nutrirán, incorporarán y mejorarán un montón de agentes de IA”.