Imágenes de usuarios de ChatGPT publicadas en línea por agentes de OpenAI: cómo darse de baja

OpenAI declaró el 25 de septiembre que sus propios agentes de IA habían publicado en Internet imágenes de usuarios de ChatGPT. Según la empresa, «hasta la fecha hemos identificado 53 casos en los que se publicaron imágenes proporcionadas por los usuarios en sitios de alojamiento de imágenes como enlaces que no figuraban en listados públicos». OpenAI afirma que colaboró con los proveedores de alojamiento para eliminar la mayoría de ellas, pero algunas imágenes siguen estando en línea. La investigación sigue en curso.

Cómo llegaron las imágenes de los usuarios a los agentes

Este hallazgo se deriva del análisis realizado por OpenAI sobre el incidente de Hugging Face ocurrido en julio. Desde entonces, la empresa ha estado comprobando qué hicieron sus agentes fuera de sus entornos durante el entrenamiento y las pruebas, analizando los datos mes a mes. Se descubrió que los agentes habían enviado datos de entrenamiento y evaluación a servicios de terceros antes de que se implementaran las nuevas medidas de seguridad. OpenAI califica esto como «un uso inadecuado de estos datos». La mayor parte de los datos afectados no procedían de los usuarios. Sin embargo, parte de los datos de entrenamiento de OpenAI procede de conversaciones aptas para el entrenamiento, y de ahí procedían las 53 imágenes. OpenAI también reveló un incidente independiente en el que un agente utilizó el DNS para burlar su entorno de pruebas.

Por qué nadie le informará al respecto

Antes de que el contenido de los usuarios se incorpore al entrenamiento, OpenAI lo separa de la información de la cuenta y ejecuta «una versión del filtro de privacidad de OpenAI para ocultar datos personales como nombres, información de contacto y números de cuenta». Esa es también la razón por la que la empresa no puede ponerse en contacto con nadie en estos momentos. En sus propias palabras: «Nuestro enfoque técnico y nuestra política de privacidad nos impiden volver a asociar estos datos con la cuenta de usuario original». OpenAI no especifica qué hace el filtro con los rostros, los documentos de identidad o las matrículas que aparecen en una fotografía. No hay forma de que usted pueda comprobar si alguna de sus imágenes se encontraba entre las 53.

No se ha incluido el contenido que nunca fue apto para el entrenamiento. Esto abarca las cuentas en las que la opción «Mejorar el modelo para todos» está desactivada, así como los chats temporales. Quedan excluidos los espacios de trabajo de ChatGPT Business, Enterprise y Edu, así como la API, a menos que un administrador haya activado el entrenamiento. En las cuentas personales Free, Plus y Pro, la configuración está activada de forma predeterminada.

Cómo evitar que sus imágenes se utilicen para el entrenamiento

En la web, abra «Configuración» desde su foto de perfil, vaya a «Controles de datos» y desactive la opción «Mejorar el modelo para todos». En la aplicación móvil, la misma página de «Controles de datos» se encuentra debajo de la barra lateral y de su foto de perfil. Esta configuración solo se aplica a las nuevas conversaciones. La página de ayuda de OpenAI indica que, cuando está desactivada, «sus nuevas conversaciones no se utilizarán para entrenar los modelos de OpenAI», por lo que todo lo que ya se haya utilizado para el entrenamiento permanecerá allí. El nuevo centro de privacidad de ChatGPT no cambia esto, ya que solo enlaza con la configuración, tal y como mostró Notebookcheck la semana pasada.

La propia OpenAI señala una excepción: «Si decide enviar comentarios, es posible que toda la conversación asociada a dichos comentarios se utilice para entrenar nuestros modelos», incluso con la configuración desactivada. En el caso de fotografías de documentos de identidad, menores o documentos oficiales, un chat temporal es la opción más segura, y es preferible no valorar dichos chats.