CMM 2024 | IA en todas partes: Qualcomm muestra impresionantes demostraciones en PC, teléfonos e IoT con Snapdragon X Elite

Ya se trate de un PC con IA, un smartphone, un dispositivo IoT o un coche eléctrico: La IA generativa es el objetivo de las plataformas Snapdragon de Qualcomm.

La IA generativa, es decir, la creación de contenidos basada en la inteligencia artificial, es también el tema número uno del Mobile World Congress. Qualcomm demostrará lo que ya es posible con las NPU de las plataformas Snapdragon actuales y futuras en PC con IA, smartphones, dispositivos IoT e incluso coches. La palabra clave es "en el dispositivo", es decir, no externalizado a la nube. Es probable que los fanáticos de la velocidad esperen con impaciencia que el Snapdragon X Elite, por ejemplo, demuestre su dominio en una prueba directa de IA con un chip Intel Meteor Lake.

Alexander Fagot (traducido por Ninh Duy), Published 02/26/2024 🇺🇸 🇩🇪 ...

AI Smartphone Laptop / Notebook

Desde que OpenAI presentó por primera vez ChatGPT al asombrado público mundial en 2022, el tema de la IA generativa no ha desaparecido de los titulares, ya sea en las letras bursátiles o en el sector tecnológico. La abreviatura de inteligencia artificial también estuvo omnipresente en el Congreso Mundial de Móviles de 2022. Sin embargo, es importante distinguir dónde tiene su hogar la inteligencia artificial. Puede verlo en el nuevo Samsung Galaxy S24 "AI phone" con muchas nuevas funciones de IA en Galaxy : mientras que algunas de ellas se ejecutan directamente en el dispositivo y también funcionan sin conexión, muchas requieren acceso a la nube.

"En el dispositivo" es por tanto un factor importante, por ejemplo por razones de protección de datos, pero por supuesto también por la capacidad offline y el rendimiento, independientemente de la disponibilidad del respectivo proveedor de la nube. En el MWC 2024 de Barcelona, que comienza hoy, Qualcomm demostró las posibilidades técnicas actuales de los algoritmos de IA que se ejecutan directamente en el dispositivo o lo que pronto será posible, a más tardar en verano, cuando el primer Snapdragon X Elite-basados en IA salgan al mercado.

NPU Snapdragon X Elite contra Intel Core Ultra 7 155H

En el vídeo de demostración de arriba, se genera una imagen utilizando Stable Diffusion 1.5 en el editor de código abierto Gimp con la ayuda de la IA generativa: A la izquierda está la NPU Hexagon de 45 TOPs en el dispositivo de demostración Snapdragon X Elite, y a la derecha está el portátil Intel con Core Ultra 7 155H. El dispositivo de prueba rojo de Qualcomm, ya conocido desde la cumbre de Qualcomm de octubre de 2023, completó la generación de imágenes en 7,25 segundos, tres veces más rápido que el PC Intel situado a su lado, que tardó 22,26 segundos.

La segunda prueba es casi aún más impresionante: Mientras que el portátil Snapdragon X Elite escupe una imagen cada segundo, la generación de imágenes de Intel tarda una media de 12 segundos, a pesar de que Meteor Lake también cuenta con una NPU integrada. Por supuesto, hay que señalar que no conocemos los parámetros específicos de esta prueba, pero al menos en el mundo de Qualcomm, los portátiles Snapdragon X Elite que se esperan para 2024 tienen ventajas tangibles, especialmente con la IA integrada en el dispositivo.

Ajuste individual de la imagen mediante LoRA en un teléfono Android

La demostración de arriba también es emocionante, ya que muestra por primera vez cómo la IA generativa puede personalizar el resultado según los requisitos del usuario mediante la "Adaptación de bajo rango" o LoRA, para abreviar. Ya sean gatos con cristales o fideos en lugar del clásico pelaje, prácticamente no hay límites para la imaginación. Todo ello se ejecuta directamente en un teléfono Android con un chip Snapdragon.

Primer modelo multimodal de más de 7.000 millones de parámetros a nivel local en un smartphone ...

Otra primicia es el LMM (Large Multimodal Model) con más de 7.000 millones de parámetros mostrado por el equipo de investigación de IA de Qualcomm, que se ejecuta localmente en un teléfono Android. El vídeo de arriba muestra cómo la inteligencia artificial acepta como entrada no sólo texto, sino también voz e imágenes, y los utiliza para mantener una conversación con el usuario. Todo ello recibe el nombre de LLAVA o Gran Asistente de Lenguaje y Visión de Qualcomm.

... y por supuesto también en un equipo Snapdragon X Elite

En la última demostración de arriba, un LMM de más de 7.000 millones de parámetros también se ejecuta en un PC Windows-en-ARM, naturalmente basado en el Snapdragon X Elite, que también acepta archivos de audio como entrada y puede analizarlos, en este caso música, por ejemplo. Qualcomm lo denomina Audio Reasoning. Además de estas demostraciones, Qualcomm también anunció en el MWC 2024 el AI Hub, que los desarrolladores de aplicaciones pueden utilizar para hacer que sus aplicaciones estén preparadas para la IA en muy poco tiempo. Qualcomm también presenta nuevo hardware en el campo de la comunicación. Obtenga más información sobre el módem Snapdragon X80 5G y el FastConnect 7900, el primer chip que combina Wi-Fi 7, Bluetooth 5.4 y Ultrawideband, aquí.

Con el Qualcomm AI Hub, los desarrolladores pueden hacer que sus aplicaciones estén listas para Ai en muy poco tiempo.

IA en dispositivos IoT y smartphones actuales

Algunos dispositivos IoT de consumo basados en Snapdragon también utilizan ya funciones de IA, un ejemplo destacado es el controvertido AI Pin de Humane. Los smartphones insignia lanzados el fin de semana - Xiaomi 14, Xiaomi 14 Ultray Honor Magic6 Pro - ofrecen cada uno ejemplos diferentes de cómo la IA en el dispositivo puede utilizarse para establecer distintas prioridades. En el caso de Xiaomi, el área principal de preocupación es la cámara, mientras que Honor se centra más en el funcionamiento del usuario que en las tareas.