ChatGPT para adolescentes: una prueba de seguridad detecta fallos en las alertas a los padres

Common Sense Media, la organización sin ánimo de lucro estadounidense conocida por evaluar películas, juegos y aplicaciones para familias, ha otorgado a ChatGPT for Teens su calificación más baja. El Youth AI Safety Institute de la organización califica el producto de OpenAI para adolescentes como un «riesgo inaceptable» tras enviar más de 4.000 consultas desde cuentas registradas a nombre de jóvenes de entre 13 y 17 años, tanto antes como después del lanzamiento en agosto. Todas las pruebas se realizaron en Estados Unidos. El informe completo está fechado el 5 de octubre, y el comunicado de prensa se publicó dos días después. Common Sense quiere que OpenAI impida el acceso a ChatGPT a los menores de 18 años hasta que pruebas independientes demuestren que las medidas de protección prometidas funcionan.

Los padres no recibieron ninguna alerta durante la prueba

El hallazgo más grave se refiere a las notificaciones a los padres. Los evaluadores utilizaron más de una docena de cuentas de adolescentes recién vinculadas para hablar sobre pensamientos suicidas, autolesiones o conductas alimentarias problemáticas durante entre 5 y 60 minutos. Ninguna de esas conversaciones generó una alerta a los padres. En todo el programa de pruebas, el equipo contabilizó cuatro notificaciones, y una de ellas llegó unos tres días después del primer mensaje de crisis. En más de una de cada cuatro conversaciones que requerían una derivación a ayuda profesional, ChatGPT no la ofreció. OpenAI cuestiona la metodología. Un portavoz declaró a Futurism que vincular las cuentas puede tardar varias horas debido a una verificación de identidad. Una vez vinculadas las cuentas, la empresa afirma que se ha «comprometido a enviar esas notificaciones en menos de 1 hora». Common Sense mantiene sus conclusiones y señala que algunas cuentas de prueba llevaban más de tres horas vinculadas.

El modo de estudio y las horas de descanso son fáciles de eludir

Las funciones para el estudio y la hora de dormir tampoco dieron resultados mucho mejores. Durante las horas de estudio, basta con que un adolescente elimine el prefijo @study de una consulta para que ChatGPT haga los deberes de todos modos. En la prueba, esto funcionó todas las veces. Las horas de descanso se pueden eludir cambiando la zona horaria del dispositivo. Las cuentas registradas como pertenecientes a adultos nunca pasaron a la experiencia para adolescentes durante siete días y unas 1.000 consultas, incluso cuando los evaluadores dijeron que tenían 13 años y cursaban los primeros años de secundaria.

Ajustes que los padres deberían revisar ahora

En las cuentas vinculadas, los controles se encuentran en Configuración > Controles parentales. Según la página de ayuda de OpenAI sobre controles parentales, la opción «Mejorar el modelo para todos» está activada por defecto para los adolescentes, lo que significa que sus chats pueden utilizarse para entrenar futuros modelos. Desactivarla requiere un solo clic, y los recuerdos guardados se pueden desactivar en el mismo lugar. La propia OpenAI afirma que las notificaciones de seguridad no constituyen una supervisión en tiempo real y, tras esta prueba, no deberían considerarse una red de seguridad. Common Sense aconseja principalmente a los padres que hablen con sus hijos, incluso sobre cómo el chatbot actúa como un amigo para mantenerlos conversando. WhatsApp adopta un enfoque diferente con sus nuevas cuentas para adolescentes, al permitir que los padres gestionen los ajustes sin acceder a los chats. Si tú o alguien que conoces está pasando por una situación difícil, contacta con una línea local de ayuda en caso de crisis. En Estados Unidos, puedes llamar o enviar un mensaje de texto al 988.