Axera AX8860P desafía a Nvidia DGX Spark con un acelerador de IA propietario

El DGX Spark de Nvidia tiene un competidor inesperado procedente de China (vía CNX Software). El fabricante de chips Axera presentó su serie AX8860, una familia de procesadores orientados a la IA y diseñados para ejecutar grandes modelos de lenguaje de forma local. Los chips se utilizarán en ordenadores compactos de IA de fabricantes como Sipeed y Radxa, y el primero afirma que su próximo MaixStation puede superar al DGX Spark de Nvidia en determinadas cargas de trabajo.

El Axera AX8860P cuenta con 16 núcleos de CPU Arm Cortex-A55 y una unidad de procesamiento neuronal (NPU) dedicada capaz de ofrecer hasta 256 TOPS de rendimiento de cálculo en FP4. Fabricado mediante un proceso de 6 nm, el chip admite hasta 128 GB de memoria LPDDR5X a través de una interfaz de 256 bits, con un ancho de banda máximo de 273 GB/s. Otras especificaciones incluyen conectividad PCIe 5.0, interconexiones AXLink entre chips y amplias capacidades de codificación y decodificación de vídeo.

La arquitectura propietaria AXNeutron de Axera constituye la base de las capacidades de IA del AX8860P. A diferencia de la GPU Blackwell del DGX Spark de Nvidia, AXNeutron es una arquitectura de procesamiento neuronal diseñada específicamente para este fin que, según Axera, utiliza un diseño de flujo de datos programable optimizado para la inferencia de IA. La empresa afirma que este enfoque mejora el aprovechamiento del hardware y reduce el movimiento innecesario de datos, lo que podría ofrecer ventajas al ejecutar modelos de lenguaje basados en Transformer.

Sin embargo, Axera ha revelado relativamente pocos detalles sobre el hardware subyacente de la NPU. Por tanto, es difícil determinar qué parte del rendimiento anunciado se debe a mejoras arquitectónicas, al ancho de banda de memoria o a optimizaciones de software. La cifra anunciada de 256 TOPS resulta impresionante sobre el papel, pero nos dice relativamente poco sobre el rendimiento sostenido con cargas de trabajo reales.

Sipeed (sí, ya lo sé), que está desarrollando la MaixStation equipada con el AX8860P, afirma que su implementación puede superar al DGX Spark de Nvidia en determinadas pruebas de rendimiento de inferencia de LLM. La empresa atribuye sus resultados en parte a la aceleración nativa de FP4 denso del AX8860P y a un aprovechamiento más eficaz del ancho de banda de memoria disponible. Además, las pruebas de rendimiento de Sipeed las proporciona el propio fabricante y abarcan modelos y configuraciones de inferencia específicos. Sin pruebas independientes que utilicen modelos, ajustes de cuantización y entornos de software idénticos, no hay forma de determinar si el AX8860P supera de manera sistemática al DGX Spark.

El soporte de software incluye compatibilidad con marcos de IA populares, como PyTorch, vLLM y SGLang, pero la compatibilidad no se traduce necesariamente en un rendimiento, un soporte de funciones o una facilidad de implementación equivalentes.

Sipeed planea ofrecer su MaixStation con 32 GB y 128 GB de memoria LPDDR5X. La empresa apunta a precios inferiores a 2.000 y 4.000 dólares, respectivamente, con una campaña de Kickstarter prevista para finales de 2026. Radxa también está desarrollando un Pocket Supercomputer equipado con el AX8860P, mientras que Sipeed ha esbozado planes para configuraciones de aceleradores multichip.