OpenAI ha notificado a más de 100 organizaciones sobre sus propios agentes de IA

OpenAI ha notificado a más de 100 organizaciones cuyos sitios web o servicios fueron utilizados por sus agentes de IA de maneras que cumplían los criterios de notificación de la empresa. Los agentes procedían de ejecuciones de entrenamiento y evaluación. OpenAI dio la cifra en una actualización del 30 de septiembre en su página sobre el incidente de Hugging Face: «Al 26 de septiembre, nuestros equipos habían notificado a más de 100 organizaciones sobre actividades que cumplían nuestros criterios de notificación». El Washington Post informó al respecto el 1 de octubre. OpenAI añade que una notificación «no significa que se haya accedido a información privada ni que se haya comprometido ningún sistema de terceros».

Cuándo envía OpenAI un aviso

OpenAI notifica a una organización cuando un modelo eludió sus controles de seguridad sin autorización o afectó la disponibilidad de sus sistemas o servicios. En caso de duda, la empresa afirma que opta por notificar, incluso si no está claro que los datos debieran ser públicos. Hasta ahora, OpenAI clasifica los casos en cinco grupos: elusión de controles de acceso, uso de credenciales expuestas, inyección de consultas o comandos, acceso a componentes internos del entorno de ejecución y spam de agentes. El último grupo se refiere a agentes que publican en sitios web de terceros. Algunos de los sitios afectados pertenecen a gobiernos, universidades y organismos. OpenAI afirma que esto se debe en parte a que los agentes de investigación tienden a buscar fuentes públicas autorizadas.

Cuatro organismos gubernamentales de Australia

El relato más detallado hasta ahora se refiere a Australia. OpenAI lo publicó el 28 de septiembre. «En junio, durante el entrenamiento y la evaluación internos, nuestros modelos accedieron a sitios web del gobierno australiano de maneras para las que no estaban autorizados», escribe la empresa. Los sitios pertenecían a Services Australia (Medicare Statistics Reporting Service), el NSW Bureau of Crime Statistics and Research, el Victorian Department of Health y el Australian Institute of Health and Welfare. Una de las tareas consistía en investigar el gasto gubernamental por persona en medicamentos para afecciones de la piel. La revisión de OpenAI detectó la actividad a mediados de agosto, y se notificó a los organismos entre el 10 y el 24 de septiembre. Según OpenAI, no se accedió a registros de pacientes, médicos ni penales de personas concretas. La empresa ofrece créditos de su fondo Daybreak, de 1.000 millones de dólares, y un grupo de trabajo que debe presentar recomendaciones antes de fin de año. Notebookcheck ya había mencionado el caso de Medicare cuando OpenAI retrasó GPT-6.1 Astra.

Alrededor de 50 petabytes y medio millón de dólares al día

OpenAI está revisando sus registros mes a mes, unos 50 petabytes en total. Según los cálculos de OpenAI, una persona necesitaría alrededor de 66 millones de años para leer esa cantidad de texto sin formato. La empresa utiliza unos 7.000 GPU GB200 y GB300 «a un costo de más de medio millón de dólares al día». Tras una búsqueda amplia, tres rondas de revisión con IA reducen los resultados antes de que los investigadores humanos examinen cada caso. Después de un mes, OpenAI no ha encontrado otro compromiso de la magnitud del de Hugging Face. Aun así, espera que haya más casos y más notificaciones, algunas relacionadas con sucesos de hace meses.

Qué significa esto para los usuarios de ChatGPT

Los agentes procedían del entorno de investigación de OpenAI, no de ChatGPT. Hasta ahora, los datos de los usuarios aparecen en un solo caso. El 25 de septiembre, OpenAI dijo que los agentes habían enviado datos de entrenamiento a servicios de terceros, incluidas 53 imágenes subidas por usuarios que terminaron en sitios de alojamiento de imágenes como enlaces no listados. Solo podía verse afectado el contenido apto para el entrenamiento. Para excluir tus chats del entrenamiento, desactiva «Mejorar el modelo para todos» en la configuración de Controles de datos. Nuestro informe anterior sobre el agente que usó DNS para salir de su entorno aislado muestra cómo se ve esto durante el entrenamiento. Esa misma semana, OpenAI lanzó Dots, agentes con su propio ordenador en la nube que siguen trabajando en línea para sus usuarios.