El mini PC RTX Spark promete superar las limitaciones de memoria con el inusual SSD de IA de Mechrevo

El fabricante chino de PC Mechrevo se prepara para lanzar un nuevo mini PC llamado Master Road X10. A diferencia de los mini PC convencionales, el Master Road X10 está diseñado principalmente para ejecutar grandes modelos de IA de forma local e incorpora algunos ajustes interesantes que podrían resultar útiles. El Master Road X10 utiliza la plataforma RTX Spark de Nvidia, que combina una CPU Grace de 20 núcleos con una GPU Blackwell que cuenta con hasta 6.144 núcleos CUDA. Admite hasta 128 GB de memoria unificada LPDDR5X.

Estas son las especificaciones máximas de la plataforma, y Mechrevo aún no ha confirmado la configuración exacta de su mini PC. Sin embargo, la característica más interesante es el SSD para IA de tecnología propia de Mechrevo. En lugar de depender exclusivamente de la memoria del sistema, esta tecnología puede transferir partes de grandes modelos de IA de la DRAM a la memoria flash NAND. También puede conservar y reutilizar el contexto procesado previamente, lo que, en teoría, reduce los cálculos redundantes y la sobrecarga de carga de los modelos. Mechrevo afirma que esto permite al Master Road X10 ejecutar modelos de 80.000 millones, 120.000 millones e incluso 122.000 millones de parámetros sin sacrificar la capacidad de respuesta. Por desgracia, no se ha especificado la capacidad exacta del SSD.

Esta no es la primera vez que Mechrevo habla de esta tecnología. Durante la presentación de septiembre, la empresa afirmó que su SSD para IA podía multiplicar hasta por 5,7 las cargas de trabajo de los modelos compatibles y acelerar la fase de procesamiento inicial hasta un 95 %. Las pruebas de laboratorio realizadas con el portátil Mechrevo Yaoshi 15 Air habrían demostrado una mejora de casi el doble en la velocidad de inferencia. También se afirma que el SSD admite memoria persistente para IA al conservar las preferencias del usuario y la información contextual entre sesiones. Sin embargo, hay algunas salvedades importantes.

Mechrevo no ha publicado resultados detallados de pruebas de rendimiento, ajustes de cuantización de los modelos ni condiciones de las pruebas que respalden estas afirmaciones. Además, la memoria flash NAND es considerablemente más lenta que la DRAM, lo que significa que un SSD capaz de alojar un modelo más grande no ofrecerá necesariamente una inferencia más rápida. Por ahora, se desconocen las configuraciones de memoria, la capacidad del SSD para IA, las opciones de conectividad, el precio y la fecha de lanzamiento del Master Road X10. Será interesante ver si Mechrevo logra convertir sus ambiciosas afirmaciones de laboratorio en mejoras medibles del rendimiento en condiciones reales.