ChatGPT introducirá el control parental y otras salvaguardias tras la demanda

OpenAI ha informado de que su chatbot de inteligencia artificial ChatGPT contará con controles parentales para menores tras la muerte de Adam Raine, de 16 años, que había expresado pensamientos autolesivos al chatbot. La familia del adolescente inició una acción legal contra OpenAI y su consejero delegado, Sam Altman, argumentando que ChatGPT dio instrucciones a Adam para que se suicidara.

La empresa informó de que está trabajando para introducir "pronto" el control parental y crear salvaguardas adicionales. En una entrada de su blog, la empresa afirmó que los modelos actuales animan a las personas a buscar ayuda cuando expresan por primera vez pensamientos dañinos; sin embargo, reconoce que en conversaciones largas, la respuesta de seguridad se degrada. La empresa comentó que está trabajando para mantener la fiabilidad de los mecanismos de salvaguarda en las conversaciones largas.

OpenAI dijo que está explorando una intervención más temprana, conectando a las personas con terapeutas. Hasta la fecha, trabaja con más de 90 médicos en 30 países, pero está "localizando recursos" en EE.UU. y Europa para ofrecer ayuda profesional, y planea expandirse a otros mercados globales.

Además, el chatbot podría incluir "mensajes o llamadas con un solo clic a contactos de emergencia guardados, amigos o familiares con lenguaje sugerido para que iniciar la conversación sea menos desalentador"

Según las demandas, se animaba a Adam a tener pensamientos dañinos y autodestructivos y, en algunos casos, se fomentaba el aislamiento y se impedía que el adolescente se pusiera en contacto con sus familiares.

El control parental incluiría un contacto de emergencia designado que, en "momentos de angustia aguda", podría ser contactado directamente por ChatGPT. Con la presentación del GPT-5la empresa afirmó que el modelo ha mostrado mejoras en áreas como la evitación de niveles poco saludables de dependencia emocional, la reducción de la adulancia y la reducción de la prevalencia de respuestas no ideales del modelo en emergencias de salud mental en más de un 25% en comparación con GPT-4o.

Sin embargo, OpenAI sigue trabajando en nuevas actualizaciones del modelo en este sentido, que permitan al modelo "desescalar" las situaciones de angustia situando al usuario en la realidad.

No está claro cuándo podrían ponerse en marcha estos cambios.