El escándalo del "deepfake" en un instituto llama a la acción a los legisladores

La tecnología deepfake no es un concepto nuevo, pero los alumnos de un instituto de Nueva Jersey se han convertido en víctimas de sus compañeras de clase utilizando esta tecnología de IA. Varios chicos de la escuela habían estado utilizando las imágenes de sus compañeras de clase. Una de las víctimas, Francesca, una estudiante de 14 años, denunció que ella y más de 30 adolescentes aparecían en estas fotos, que se distribuyeron por el instituto sin su consentimiento. Sin embargo, según un correo electrónico de la escuela, el número real de víctimas parece ser inferior a 30.

Francesca se puso entonces en contacto con varios legisladores y recibió respuestas del representante federal Joe Morelle de Nueva York, del representante federal Tom Kean Jr. de Nueva Jersey y del senador estatal de Nueva Jersey Jon Bramnick, entre otros. Gracias a sus esfuerzos, recientemente se han introducido nuevas propuestas legislativas que hacen hincapié en el etiquetado y la identificación de los contenidos generados por la IA y en la prevención de la inclusión de material de menores. Además, ha creado un sitio web para ayudar a a los afectados por la tecnología deepfake.

Ese día me di cuenta de que tenía que denunciar porque creo que esto no está bien. Se trata de una tecnología tan nueva que la gente no conoce realmente y de la que no sabe cómo protegerse.

- Francesca

Joe Morelle redactó un proyecto de ley en 2022 para criminalizar la producción de deepfakes sin consentimiento, pero carecía de apoyo suficiente y finalmente fracasó. También se han presentado otras iniciativas para regular los deepfakes, como la DEEPFAKES Accountability Act de 2019 de la representante Yvette Clarke, que exige que todos los deepfakes lleven una marca de agua de sus autores.

Desde entonces, la creación de deepfakes se ha vuelto más fácil, ya que la inteligencia artificial se ha desarrollado considerablemente. Con un mínimo de material de imagen, se pueden lograr falsificaciones de aspecto real. Por ejemplo, Lensa, una aplicación de IA generativa, permite, entre otras cosas, desnudar a las personas.

Acabamos de dar a los chicos de instituto la madre de todas las armas nucleares para ellos, que es poder crear porno con [una sola imagen] de quien quieran. Y por supuesto, lo están haciendo.

- Hany Farid, profesor de la Universidad de California, Berkeley

El proyecto de ley de Joe Morelle permitiría perseguir penalmente a los creadores y distribuidores de deepfake sin consentimiento, tipificándolo como delito federal.