Nvidia quiere aprovechar el crecimiento de la IA generativa con el lanzamiento del nuevo superchip Grace Hopper, el primero del mundo con RAM HBM3e

Nvidia ha lanzado su última Grace Hopper diseñado para alimentar centros de datos con IA generativa u otros cálculos acelerados. Aunque Nvidia sigue fabricando chips basados en Arm para consumidores en diferentes formas, hace unos años dio un giro para dar prioridad a los SoC de servidor basados en Arm que pueden acelerarse aún más integrando su plataforma Grace Hopper con sus GPU de clase servidor. La apuesta de la compañía ha dado sus frutos a lo grande tras el auge de tecnologías de IA generativa como ChatGPT y Midjourney, entre otras, lo que ha hecho subir el precio de sus acciones alrededor de un 200% desde principios de año.

Al igual que el superchip Grace Hopper original, el nuevo GH200, en configuración dual, alcanza los 144 núcleos Neoverse de la serie V de Arm. También como antes, la CPU (Grace) se combina con la GPU H100 Tensor Core de Nvidia (Hopper). Las GPU H100 pueden proporcionar un mínimo de 51 teraflops de cálculo FP32, mientras que la arquitectura GH200 combinada permite alcanzar la impresionante cifra de 8 petaflops de rendimiento de IA.

Para alcanzar estos nuevos niveles de rendimiento con la GH200 -a pesar de mantener la arquitectura de silicio sin cambios- Nvidia ha actualizado la arquitectura de memoria con 282 GB de la última memoria HBM3e. HBM3e es un 50 por ciento más rápida que la memoria HBM3 normal, con un total de 10 TB/s de ancho de banda. Esto permite a la GH200 procesar modelos 3,5 veces más grandes que el chip de primera generación y la convierte en la primera del mundo en incorporar memoria HBM3e.

Nvidia también afirma que la plataforma Grace Hopper es escalable y admite la conexión de más chips Grace Hopper mediante la interconexión NVLink de Nvidia. La memoria coherente (compartida entre todas las CPU y GPU del clúster) puede alcanzar hasta 1,2 TB. Nvidia afirma que se espera que los principales fabricantes de servidores entreguen sistemas con configuraciones GH200 en más de 100 variantes de servidores en el segundo trimestre de 2024.

Compra el kit de desarrollo Nvidia Jetson Nano AI en Amazon por 149$.