Los nuevos modelos de código abierto de OpenAI pueden funcionar en su PC
OpenAI ha anunciado el lanzamiento de gpt-oss-120b y gpt-oss-20b, dos modelos de código abierto que se pueden descargar gratuitamente y ejecutar localmente en su sistema. Es el primer lanzamiento de código abierto de la empresa desde el lanzamiento en 2019 de GPT-2.
Gpt-oss-120b es el modelo de 117.000 millones de parámetros que requiere unos robustos 80 GB de VRAM para ejecutarse. El más pequeño, gpt-oss-20b, el modelo de 21.000 millones de parámetros, puede caber en una sola GPU con 16 GB de VRAM. Ambos modelos están disponibles bajo una flexible licencia Apache 2.0.
OpenAI afirma que el "lanzamiento es un paso significativo en su compromiso con el ecosistema de código abierto, en línea con su misión declarada de hacer ampliamente accesibles los beneficios de la IA" La empresa quiere que sirvan como herramientas de bajo coste para que desarrolladores, investigadores y empresas puedan ejecutarlas y personalizarlas de forma eficiente.
¿Cómo funcionan?
El gpt-oss-120b obtuvo 2622 puntos en la prueba de codificación Codeforces con herramientas, rindiendo casi a la par que los o3 y o4-mini de la compañía, y superando cómodamente al o3-mini en ambas pruebas, que obtuvo 2643 sin herramientas.
El gpt-oss-20b obtuvo una puntuación de 2516 con herramientas, rindiendo a la par con o3 y o4-mini, y 2230 sin herramientas, superando por poco a o3-mini. OpenAI afirma que el 120b rinde incluso mejor en consultas relacionadas con la salud y las matemáticas que el o4-mini, mientras que el 20b supera al o3-mini.
OpenAI afirma que tanto el 120b como el 20b tienden a alucinar mucho más que los modelos de razonamiento como el o3 y el o4-mini. En las pruebas, descubrieron que ambos modelos de peso abierto alucinaban entre un 49% y un 53% en sus pruebas de referencia internas que ponen a prueba los modelos sobre su conocimiento de las personas.
Ambos modelos pueden descargarse del espacio oficial Hugging Face y vienen cuantizados de forma nativa en MXFP4 para mayor eficacia. También pueden desplegarse libremente en plataformas como Microsoft Azure, Hugging Face, vLLM, Ollama y llama.cpp, LM Studio, AWS, Fireworks, Together AI, y mucho más.
OpenAI espera que estos modelos "reduzcan las barreras para los mercados emergentes, los sectores con recursos limitados y las organizaciones más pequeñas que pueden carecer del presupuesto o la flexibilidad para adoptar modelos propietarios"
En cuanto a por qué han abierto un nuevo modelo seis años después del último, la empresa dice que quiere "hacer que la IA sea ampliamente accesible y beneficiosa para todos"
