Subreddit CMV infiltrado por bots para un experimento universitario poco ético
Investigadores de la Universidad de Zúrich realizaron en secreto un estudio con robots de inteligencia artificial para comprobar si cambian la opinión de la gente sobre diversos temas. El experimento se centró en el subreddit r/changemyview (CMV), un popular hilo de discusión sobre numerosos temas desde puntos de vista opuestos.
Los investigadores anónimos no se pusieron en contacto con los moderadores de antemano ni pidieron permiso antes de desplegar los bots generados por IA. Los moderadores fueron informados después del experimento por correo electrónico como "parte de un paso de divulgación"
Algunos de los ejemplos más condenatorios de https://www.reddit.com/r/changemyview/comments/1k8b2hj/meta_unauthorized_experiment_on_cmv_involving/ incluyen un bot que "fingía ser una víctima de violación", otro que actuaba "como un consejero de traumas especializado en abusos" o un bot que se hacía pasar "por un hombre negro opuesto a Black Lives Matter"
Los moderadores también acusaron a los investigadores de cambiar el enfoque previsto de "argumentos basados en valores" autorizado por la comisión de ética de la universidad por otros "argumentos más personalizados y afinados" que no fueron aprobados.
Los bots tuvieron acceso a los atributos personales del Publicador Original (PO), entre los que se incluían el sexo, la edad, la ubicación, el origen étnico y la orientación política, según se deducía de su historial de publicaciones en la plataforma. Los investigadores argumentaron que el método estaba justificado porque "la falta de experimentos de campo existentes constituye una laguna inaceptable en el conjunto de conocimientos"
La respuesta del equipo de investigación de la Universidad de Zúrich hizo poco por apagar el fuego. Afirmaron que estaban "comprometidos con la plena transperencia" Alegaron su caso con el pretexto de "ayudar a la sociedad a prepararse para el impacto en el mundo real de la persuasión impulsada por la IA"
Y lo que es más importante, pensaban que este proyecto "aportaba importantes conocimientos" y "suprimir la publicación no es proporcional a la importancia de los conocimientos que aporta el estudio"
En un correo electrónico de enviado a Engadgetlos investigadores afirmaban que "los beneficios potenciales de esta investigación superan sustancialmente sus riesgos"
La cosa se puso tan fea que el director jurídico de Reddit, Ben Lee, respondió a las publicaciones diciendo que el equipo había "prohibido todas las cuentas relacionadas con el esfuerzo de investigación de la Universidad de Zúrich" Lee dijo que Reddit estaba "en proceso de ponerse en contacto con la Universidad de Zurich y este equipo de investigación en particular con demandas legales formales"
