Laboratorio de bolsillo Tiiny AI: Mini PC con CPU ARM de 12 núcleos y 80 GB de memoria LPDDR5X presentado antes del CES

Tiiny Lab es una startup estadounidense con sede en https://tiiny.ai que parece estar especializada en hardware diseñado para LLM personales. Su último producto marca su incursión en el territorio de los mini PC, bautizado como Pocket Lab. El acertadamente llamado mini PC es increíblemente compacto, y presume de un hardware realmente potente que puede ejecutar LLMs con hasta 120.000 millones de parámetros, lo cual es una afirmación bastante impresionante.

cPU ARM de 12 núcleos con dNPU para 160 + 30 TOPS de cálculo de IA

Curiosamente, Tiiny AI ha afirmado que el mini PC Pocket Lab ha sido coronado como el "mini PC más pequeño del mundo" en la categoría 100B LLM Local por Guinness World Records, lo que, para ser justos, parece ser extrañamente específico. En cualquier caso, no cabe duda de que el mini PC Pocket Lab es extremadamente compacto, con sólo 14,2 x 8 x 2,5 cm o 5,6 x 3,15 x 1 pulgadas. Con sólo 300 gramos, el sistema también es bastante ligero.

Tiiny AI afirma además que la instalación con un solo clic para modelos conocidos de código abierto como Llama, Qwen, DeepSeekmistral, Phi y OpenAI GPT-OSS. Las actualizaciones de software OTA se proporcionarán con regularidad, lo que suena prometedor. Pero, por supuesto, está por ver si estas promesas se cumplen o no. En cuanto al hardware, el mini PC Pocket Lab es bastante potente, como se detalla a continuación:

• cPU ARM de 12 núcleos basada en ARMv9.2
• NPU con 160 TOPS
• 80 GB de memoria LPDDR5X, con 48 GB dedicados a la NPU
• 1 TB DE SSD
• consumo de 65 vatios
• Funcionamiento totalmente offline