El profesor del MIT advierte en un nuevo libro: en qué nos convertimos cuando hablamos con máquinas

Un LLM puede generar una frase como: «Eso suena muy difícil. Entiendo por qué te dolió». La gente percibe esta frase como empática. Pero los LLM no son compasivos, no experimentan emociones, no sienten (con nosotros): simplemente simulan empatía.

Y, sin embargo, los LLM ya son interlocutores para muchas personas cuando se trata de cuestiones y situaciones humanas y emocionales. Se utilizan como consejeros para superar desamores, para mantener ocupados a los niños o incluso para llenar el vacío cuando no se dispone de atención terapéutica.

En su nuevo libro «Artificial Intimacy: Who we become when we talk to machines» (Amazon), la profesora del MIT y socióloga y psicóloga Sherry Turkle advierte sobre las consecuencias para la sociedad. Basa sus críticas en sus observaciones y resultados de investigación:

Los LLM parecen escuchar con paciencia y rara vez discrepan, al tiempo que ofrecen elogios y cumplidos. Las personas reales pueden ser mucho más exigentes, sobre todo a la hora de resolver conflictos emocionales; relacionarse con los demás suele requerir mucho trabajo, al igual que mantener las relaciones y seguir en contacto. A medida que las personas comparten cada vez más sus preocupaciones y conflictos con chatbots y evitan las conversaciones con personas reales, practican cada vez menos las conductas sociales de la vida real e incluso pueden perder la capacidad de verse a sí mismas como seres «relacionales» en una sociedad diversa. Los chatbots solo simulan empatía; no sienten nada ni tienen un interés genuino en el bienestar de la persona con la que hablan. Eso puede ser muy peligroso.

Como consecuencia, los niños y los adolescentes son especialmente vulnerables. Los niños todavía tienen que aprender a distinguir entre las cosas y las personas, aprender a relacionarse socialmente, generar confianza y sentirse cómodos pasando tiempo a solas para desarrollar su propia imaginación. Sin embargo, los niños suelen percibir los chatbots como una «persona al teléfono» de verdad.

En última instancia, el argumento de Turkle no se refiere solo a la IA, sino a nuestra relación con la comodidad. Cuanto más nos libera la tecnología de las situaciones incómodas, menos practicamos cómo afrontarlas. Esto se aplica tanto a las situaciones sociales como a la búsqueda de información o a la adquisición de conocimientos propios. La sociedad podría perder cada vez más ambas capacidades debido al uso intensivo de los LLM. O, como dice la autora:

«Estamos perdiendo habilidades como seres relacionales. También estamos perdiendo habilidades en el trabajo. Estamos perdiendo habilidades en las relaciones personales. Ocurre en todos los ámbitos».

Y su recomendación: ¿Qué deberíamos hacer? Primero, aceptar que la vida implica fricciones. Aprendemos de ellas, incluso —o especialmente— porque son difíciles y requieren esfuerzo. La fricción no es algo malo; todo lo contrario. Necesitamos desarrollar la capacidad de superar las dificultades y crecer gracias a ellas. Si simplemente evitamos las dificultades, no ganamos nada; la tecnología nos debilita como individuos. Deberíamos unir fuerzas con otras personas, crear un movimiento contrario y fortalecer los aspectos sociales de nuestras propias vidas. Afrontemos las fricciones de la vida, ¡porque la vida es fricción!