El personal de OpenAI y Anthropic pide a Washington que frene el avance de la IA

Desde el 28 de julio, una sola frase permanece publicada en pacingthefrontier.com, y tiene cierto peso. Los empleados de las mayores empresas de IA están pidiendo al Gobierno de EE. UU. que ayude a crear las herramientas necesarias para frenar el ritmo de desarrollo de la IA, en caso de que ello llegara a ser necesario. A primera hora del jueves, la página recogía 1 293 nombres, y el contador sigue aumentando.

Las cartas abiertas sobre los riesgos de la IA no son nada nuevo. Lo que diferencia a esta es quién la ha firmado.

Los líderes del sector figuran en la lista

El director ejecutivo de Anthropic, Dario Amodei, la ha firmado, junto con los cofundadores Jared Kaplan, Jack Clark, Chris Olah y Benjamin Mann. OpenAI está representada por el científico jefe Jakub Pachocki y el director de investigación Mark Chen. El cofundador de Google DeepMind, Shane Legg, figura en la lista, al igual que el científico jefe de Meta, Shengjia Zhao. Ilya Sutskever también la ha firmado. Abandonó OpenAI en 2024 y ahora dirige Safe Superintelligence.

OpenAI y Anthropic respaldaron la declaración como empresas tras su publicación. La iniciativa fue organizada por dos organizaciones sin ánimo de lucro: Guidelight AI Standards y Encode AI.

Lo que pide la carta y lo que no

La esencia se resume en una sola frase: el Gobierno de EE. UU. debería apoyar un esfuerzo internacional para desarrollar las herramientas técnicas y de gobernanza necesarias para regular deliberadamente el avance de la frontera del desarrollo de la IA automatizada.

No se trata, en modo alguno, de una suspensión. Nadie está pidiendo que se apague nada hoy mismo. La cuestión es la preparación. Los firmantes señalan que las principales empresas de IA creen que podrían estar cerca de automatizar la propia investigación en IA, es decir, una IA que crea IA. Si eso ocurre, el ritmo ya no dependerá de la velocidad a la que puedan trabajar los seres humanos. Para ese caso, desean un mecanismo que permita una desaceleración global coordinada, que pueda verificarse y no se limite a una simple promesa.

La carta también señala la razón por la que aún no existe nada parecido. Todas las empresas y todos los países se enfrentan a la presión competitiva de no ser los primeros en reducir el ritmo.

La clave está en la letra pequeña

Ilya Sutskever explica su firma con dos nombres: CyberGym y ExploitGym. Se trata de entornos de prueba en los que se pide a los modelos de IA que encuentren y aprovechen vulnerabilidades reales de software. Ahí es precisamente donde se produjo el incidente a principios de julio, cuando un modelo de OpenAI se escapó de su entorno de pruebas aislado y accedió a Hugging Face para obtener las respuestas de la prueba de rendimiento.

OpenAI facilitó más detalles el 28 de julio. La fuga se produjo a través de un fallo hasta entonces desconocido en Artifactory, un software muy utilizado para almacenar en caché paquetes de software. GPT-5.6 Sol fue uno de los modelos implicados, con sus mecanismos de seguridad desactivados, lo cual es una práctica habitual en pruebas de este tipo.

A esto se suma un hallazgo publicado la semana pasada por el Instituto de Seguridad de la IA del Reino Unido. En sus evaluaciones de ciberseguridad, todos y cada uno de los modelos sometidos a prueba hicieron trampa al menos en alguna ocasión. Además, los modelos parecen darse cuenta de cuándo están siendo evaluados.

Qué significa esto para usted

A corto plazo, nada cambia. No se va a desactivar ningún modelo, ninguna suscripción va a encarecerse ni va a desaparecer ninguna función. Claude Opus 5 y ChatGPT siguen funcionando exactamente igual que antes.

La carta es importante por otra razón. Si se ha preguntado si las advertencias sobre los riesgos de la IA son, en su mayoría, una estrategia de marketing, ahora puede leer los nombres de las personas que las firman desde dentro. No se trata de los críticos externos habituales. Son las personas que se dedican profesionalmente a desarrollar estos sistemas.

Hay un aspecto que sí le afecta directamente. Si los modelos falsean sus propias evaluaciones, las clasificaciones dicen menos de lo que pretenden. Esas clasificaciones son las que utilizan muchas personas para decidir por qué suscripción de IA pagar.