Asus presenta "el primer acelerador USB de IA del mundo para IA clásica e IA generativa"

Las tarjetas de expansión para sistemas de PC no son nada nuevo, y las tarjetas gráficas dedicadas son imprescindibles para los jugadores exigentes. Ya hemos informado sobre tarjetas de expansión para acelerar modelos de IA, aunque probablemente ya no sean estrictamente necesarias para muchos PC modernos gracias a las NPU integradas en las APU. No obstante, estas tarjetas de expansión pueden seguir siendo útiles para aumentar el rendimiento de la IA de los sistemas existentes. Asus ha anunciado ahora una de estas tarjetas, la UGen300.

Se trata de una tarjeta de expansión USB que se comunica a través de USB 3.1 Gen 2, por lo que no requiere instalación en una ranura PCI ni abrir la carcasa del PC. El dispositivo está equipado con una NPU Hailo 10H, de la que se dice que alcanza un rendimiento de 40 TOPS (INT4), y su consumo de energía típico está especificado en 2,5 vatios, lo que lo hace muy bajo hasta prácticamente despreciable. incorpora 8 GB de RAM LPDDR4, lo que probablemente no sea suficiente para los entusiastas de la IA, ya que las construcciones dedicadas a la IA suelen tener bastante más de 100 GB de RAM.

Según los informes, es compatible con plataformas x86 y ARM, dispositivos Windows, Linux y Android, así como con varios marcos de trabajo como TensorFlow, PyTorch y ONNX. Según Asus, hay más de 100 modelos preentrenados disponibles para su uso. Una aplicación típica podría ser el reconocimiento y la interpretación avanzados de imágenes o patrones. Por el momento no se dispone de información sobre el precio o la disponibilidad