ChatGPT: lo que el interruptor de entrenamiento no desactiva

ChatGPT cuenta con una configuración que tranquiliza a los usuarios. Se denomina «Mejorar el modelo para todos», se encuentra en «Controles de datos» y, al desactivarla, da la sensación de estar cerrando una puerta. A partir de ese momento, la IA no aprenderá nada de mí.

Eso es cierto, pero solo en la medida en que lo indica la frase que OpenAI escribe al respecto: «Una vez que se desactive esta opción, las nuevas conversaciones no se utilizarán para entrenar nuestros modelos». Esa única frase ya contiene dos limitaciones. Se refiere a las nuevas conversaciones y al entrenamiento. Todo lo demás queda fuera de su ámbito de aplicación.

Qué hace realmente el interruptor

Mantiene sus conversaciones fuera del entrenamiento del modelo desde el momento en que activa el conmutador. Se aplica a toda la cuenta, independientemente del dispositivo que utilice, y puede volver a desactivarlo en cualquier momento. El modo de voz cuenta con un control independiente.

Lo que no hace no está explicado con la misma claridad. Sus conversaciones permanecen en su historial; simplemente, ya no se utilizan para el entrenamiento. Y, dado que el historial se conserva, todo lo que se ha creado a partir de él también se conserva. Ahí es donde comienza la parte que la mayoría de la gente pasa por alto.

Uno: los pulgares desactivan el conmutador

En la misma página que recoge la promesa fundamental, un párrafo posterior vuelve a plantear la cuestión. Al valorar una respuesta con un pulgar hacia arriba o hacia abajo, está usted aportando su opinión. Y entonces, según explica OpenAI, toda la conversación relacionada con esa valoración puede utilizarse para entrenar sus modelos. Incluidos explícitamente los casos en los que haya optado por no participar previamente.

Esa es la única vía documentada por la que un chat completo puede acabar formando parte del entrenamiento incluso con el interruptor desactivado. Se activa mediante un gesto que la mayoría de las personas consideran una simple muestra de cortesía. Las conversaciones de asistencia funcionan de la misma manera.

Segundo: el interruptor no tiene memoria del pasado

OpenAI plantea esta promesa como una medida de futuro, no como una revisión retrospectiva. Todo lo que se haya acumulado antes de que activara el interruptor podría utilizarse para el entrenamiento, ya que eso es precisamente lo que la empresa se reserva para las cuentas personales. La exclusión voluntaria surte efecto desde el momento en que la activa. No he podido encontrar ninguna frase sobre el efecto retroactivo en ninguna de las páginas de ayuda.

Tercero: los recuerdos constituyen un segundo sistema

La memoria es la función que permite a ChatGPT recordar datos sobre usted para que no tenga que repetirlos. No depende del interruptor de entrenamiento, sino que forma parte de la personalización. Y es más persistente de lo que parece.

El resumen de su configuración no lo muestra todo. Su objetivo es recoger los detalles más importantes, pero, según OpenAI, no es todo lo que ChatGPT recuerda de sus chats. Al preguntársele directamente si el resumen contiene todos los recuerdos, la empresa responde: «No necesariamente».

El punto más delicado viene más adelante. Borrar sus recuerdos y desactivar la función de memoria no elimina los chats antiguos. Si vuelve a activar la memoria más adelante, ChatGPT puede crear nuevos recuerdos a partir de lo que quede en su historial, incluyendo explícitamente conversaciones anteriores. Los recuerdos que haya borrado pueden reaparecer.

Además, en el antiguo sistema de recuerdos guardados, un recuerdo perdura más allá del chat del que procede. Y OpenAI puede conservar un registro de los recuerdos guardados eliminados durante un máximo de 30 días.

Cuarto: las aplicaciones conectadas siguen sus propias reglas

Cualquier persona que haya vinculado Gmail, Drive, Canva u otro servicio a ChatGPT ha abierto un segundo canal. En los planes Free, Plus, Go y Pro, OpenAI puede utilizar información de las aplicaciones conectadas para el entrenamiento siempre que el interruptor esté activado. En los planes Business, Enterprise y Edu, no lo hace de forma predeterminada.

Así pues, el interruptor regula esa dirección. Lo que no regula es la otra. La aplicación ve extractos de sus conversaciones y, si la función «memoria» está activada, también contenido de sus recuerdos, además de su dirección IP, el tipo de dispositivo y navegador, el idioma, la región y la ubicación aproximada. Esos datos se rigen por las condiciones del proveedor, no por las de OpenAI.

Cinco: borrar no significa eliminar de todas partes

Un chat eliminado desaparece de su cuenta de forma inmediata y se programa su eliminación definitiva en un plazo de 30 días. Con dos excepciones que la propia OpenAI señala: si el chat ya ha sido anonimizado y desvinculado de usted, o si debe conservarse por motivos de seguridad u obligaciones legales.

En la práctica, los archivos son más importantes. Todo lo que haya subido a una conversación también se almacena en su Biblioteca, y la Biblioteca es independiente. Eliminar una conversación no elimina un archivo almacenado en ella. Lo mismo ocurre con los archivos de un proyecto o de un GPT personalizado, que permanecen hasta que se elimine el proyecto o el propio GPT.

OpenAI saca la conclusión por sí misma: para eliminar por completo algo de lo que ChatGPT sabe sobre usted, debe eliminar todas las fuentes en las que aparece.

Seis: los controles de seguridad nunca cesan

La página de ayuda de «Controles de datos» incluye una línea que es fácil pasar por alto. Desactivar la memoria y la personalización no desactiva las funciones de seguridad que pueden utilizar un contexto limitado y relevante para la seguridad en situaciones excepcionales y de alto riesgo, de modo que ChatGPT pueda responder de forma más segura. No existe ningún interruptor para ello.

El «Chat temporal», que muchas personas interpretan como un modo incógnito, tampoco es una excepción. No se utiliza para el entrenamiento, no crea recuerdos y desaparece tras 30 días. OpenAI puede conservar una copia durante un máximo de 30 días por motivos de seguridad y revisarla para detectar posibles abusos. Sus instrucciones personalizadas siguen siendo válidas también en este caso.

Qué hay que hacer realmente

Tomarse esto en serio implica más de un cambio de configuración. En primer lugar, el propio interruptor, en «Perfil», «Ajustes», «Control de datos». En segundo lugar, la personalización y el historial, donde debe eliminar el resumen y desactivar la función. OpenAI indica que este control está disponible en la web y que aún se está implementando en dispositivos móviles. En tercer lugar, vacíe la Biblioteca, ya que ahí es donde se almacenan los archivos que no se eliminan al borrar los chats. En cuarto lugar, consulte en «Configuración», «Aplicaciones» para ver qué servicios están conectados y desconecte aquellos que no necesite.

Y en quinto lugar: no utilice los pulgares. Una valoración es el único gesto que puede hacer que toda una conversación se incluya en el entrenamiento, a pesar de que se haya optado por no participar.

Para las conversaciones que deben dejar el menor rastro posible, el «Chat temporal» es la mejor herramienta. No el interruptor de entrenamiento. El alcance actual de las rutas de datos queda patente en el nuevo registrador de actividad para Mac, que llegó a Europa el 20 de agosto.