«Claramente deshonesto»: un matemático afirma que OpenAI le mintió sobre el entrenamiento con sus chats privados

Andreas Thom, especialista en teoría de grupos de la Universidad Técnica de Dresde, ha cuestionado públicamente si sus sesiones privadas con ChatGPT contribuyeron al resultado de OpenAI que generó el primer grupo no sofico conocido —uno de los diez problemas que, según OpenAI, Astra resolvió el 1 de agosto—.

En una extensa publicación de tres partes en Mathstodon, Thom escribió que envió un correo electrónico a los investigadores de OpenAI Mark Sellke y Sebastien Bubeck poco después de dicho anuncio. Él y un colega de Dresde habían pasado meses trabajando en el problema de la correspondencia de expansores y en las extensiones de su trabajo con Gabor Kun dentro de ChatGPT, y preguntaron dos cosas: si esos intercambios se habían incluido en los datos de entrenamiento y si el sistema había podido acceder a ellos mientras trabajaba en la demostración. La respuesta de Sellke, tal y como la cita Thom, fue de una sola línea: eso no ocurrió. Thom sostiene que la respuesta solo abordaba la parte del «acceso directo». Ahora la describe como injustificadamente amplia y, en retrospectiva, deshonesta.

Post by @[email protected]

View on Mastodon

El debate ha resurgido esta semana junto con el anuncio de OpenAI sobre Navier-Stokes. En él, OpenAI afirmó que ni sus investigadores ni sus agentes habían visto el trabajo de ambos autores antes de su publicación y que no se había accedido a ningún dato específico de los usuarios. También añadió que no podía descartar que los datos anonimizados derivados del uso que estos habían hecho de sus productos hubieran contribuido a mejorar sus modelos. 

Hay otros dos puntos que respaldan su argumento. Desactivó el entrenamiento del modelo el 29 de junio. El entrenamiento del modelo es un parámetro que los usuarios no pueden auditar —no aporta información alguna sobre conversaciones anteriores—. La mayoría de los investigadores preferían los métodos de juegos cuánticos frente al enfoque que él adoptó con Kun, por lo que le sorprendió que Astra eligiera la misma vía que él.

En el momento de redactar este artículo, Thom no ha llegado a afirmar que tenga pruebas. En su lugar, ha solicitado a OpenAI que revele los fundamentos de su negación.

OpenAI no se ha pronunciado públicamente sobre sus publicaciones.