DeepSeek V3.2 Exp AI LLM, gratuito y de código abierto, debuta con menores costes de computación, ayudando a las empresas a ahorrar aún más dinero

DeepSeek ha lanzado su último modelo de gran lenguaje de inteligencia artificial, DeepSeek-V3.2-Exp, con unos costes de computación significativamente reducidos. Esta optimización ayuda a las empresas que utilizan la API de la compañía en sus aplicaciones a ahorrar dinero a la vez que les proporciona acceso a una IA inteligente, que ha ocupado el puesto 11 entre los LLM más potentes lanzados en todo el mundo.

Esto se consiguió utilizando un nuevo diseño de DeepSeek Sparse Attention (DSA) para centrarse en indexar los tokens no con todos los demás tokens, como ocurre con los transformadores de IA tradicionales, sino sólo con los más relevantes. Esto permite a la IA procesar más rápidamente el texto de entrada hasta su ventana de 128K tokens con un menor uso de memoria.

Los desarrolladores de aplicaciones que accedan a DeepSeek V3.2 Exp a través de su API pública pueden esperar pagar más de un 50% menos que por la versión anterior, manteniendo un rendimiento comparable en los puntos de referencia estandarizados de IA.

El LLM de IA de 400 GB puede descargarse gratuitamente de Hugging Face y ejecutarse localmente en ordenadores potentes. Los lectores que lo hagan necesitarán un sistema con varias Nvidia H100/H200/H20 o una única GPU NVIDIA B200/GB200 como mínimo debido al requisito de VRAM de más de 1,5 TB del modelo.

Los lectores que deseen ejecutar DeepSeek v3.2 en ordenadores de sobremesa domésticos tendrán que esperar a que se publiquen modelos cuantizados en Hugging Face, como éste para la v3.1 de unslothy disponer de una GPU con al menos 24 GB de memoria, como esta Nvidia 5090 en Amazon.