inferencia 10 veces más rápida frente a HBM4: d-Matrix une fuerzas con AIchip para producir la primera DRAM 3D del mundo

El dominio de Nvidia sobre toda la infraestructura de hardware de IA sigue siendo fuerte, pero bastantes empresas se esfuerzan ahora por ofrecer alternativas eficientes. Hace un par de años, cuando Nvidia luchaba por satisfacer la creciente demanda de hardware de inferencia, surgió d-Matrix y aprovechó la oportunidad para posicionarse como un proveedor fiable de hardware de IA generativa en el espacio de los centros de datos. Su primera tarjeta de computación dedicada - la Corsair C8tuvo una buena acogida, y la empresa planea ahora lanzar un modelo sucesor que integre la primera DRAM 3D producida en serie del mundo.

d-Matrix colaboró con la infraestructura de IA de alto rendimiento ASIC integrador AIchip de Taiwán para desarrollar la solución DRAM 3D, de la que se dice que "elimina los cuellos de botella de rendimiento y coste que limitan la infraestructura de IA actual" Este nuevo tipo de memoria RAM conocida como 3DIMC (3D stacked digital in-memory compute) se prueba actualmente en los chips Pavehawk de d-Matrix.

Se espera que el primer producto comercial que incorpore DRAM apilada en 3D sea el acelerador de inferencia Raptor de d-Matrix (enlace de afiliación a Nvidia Jetson AGX), que sustituirá a los actuales modelos Corsair. d-Matrix estima que la solución 3DIMC podría ofrecer velocidades de inferencia hasta 10 veces superiores a las de la más rápida HBM4-basadas en aceleradores.

Sid Sheth, cofundador y consejero delegado de d-Matrix, explica que la DRAM apilada en 3D representa "un gran avance que hace que la IA no sólo sea más rápida, sino también más rentable y sostenible a escala. 3DIMC representa el siguiente paso lógico en nuestra hoja de ruta hacia el suministro de arquitecturas de inferencia eficientes que sigan el ritmo del crecimiento exponencial de la IA generativa y agéntica."