Instagram persigue a los influencers generados por IA que no admiten que son falsos

Instagram va a cambiar el nombre de su etiqueta «creador de IA» por «perfil generado por IA» y comenzará a limitar el alcance de los perfiles de IA sin etiquetar si las cuentas que los gestionan no revelan que la persona que aparece no es real.

La etiqueta original, introducida en mayo, era opcional y algo imprecisa, ya que se aplicaba a cualquier cuenta que utilizara habitualmente herramientas de IA, independientemente de si detrás de ella había una persona real. La nueva etiqueta está pensada específicamente para señalar aquellos perfiles en los que la persona que aparece está generada íntegramente por IA, en lugar de simplemente asistida por IA, lo que cierra una laguna que permitía que las cuentas de influencers totalmente sintéticas se mezclaran con creadores reales que simplemente utilizaban la IA como parte de su flujo de trabajo.

Alcance limitado para quienes no respeten las normas

Bajo el nuevo sistema, las cuentas que Instagram identifique como perfiles generados por IA sin etiquetar verán limitado su alcance, lo que significa que los usuarios que no las sigan no verán sus publicaciones aparecer en «Explorar», «Reels» u otras secciones de recomendaciones. Los creadores pueden recuperar ese alcance de dos maneras: aplicando de forma proactiva la etiqueta de perfil generado por IA ellos mismos, o apelando la restricción si consideran que la detección de Instagram ha sido errónea, algo que la propia empresa admite que sus sistemas no siempre aciertan.

La nueva etiqueta funciona de forma independiente del sistema de «información sobre IA» ya existente de Meta, que señala publicaciones concretas en Instagram, Facebook y Threads cuando hay indicadores técnicos —como los metadatos C2PA o la marca de agua SynthID de Google— que indican la participación de la IA, o cuando el propio creador lo revela. La etiqueta a nivel de perfil se refiere específicamente a si la persona que aparece en las publicaciones, comentarios y mensajes de una cuenta es real o ha sido generada por IA.

Atendiendo a los usuarios frustrados

Instagram ha justificado el cambio alegando una simple frustración: afirma que a los usuarios no les gusta descubrir a posteriori que un perfil que parecía humano había sido generado por IA desde el principio. Hasta ahora, la política solo se dirige a las cuentas que se hacen pasar por una persona falsa concreta, no al volumen mucho mayor de cuentas que publican contenido generado por IA sin fingir ser un influencer humano.

Los personajes generados íntegramente por IA se han convertido en algo habitual como influencers no oficiales de marcas, ya que las empresas recurren cada vez más a personajes sintéticos para promocionar productos en lugar de pagar a personas reales, y actualmente no existen normas específicas que obliguen a los anunciantes a revelar cuándo se da ese caso (vía The Guardian). Que la nueva etiqueta cambie de forma significativa esa práctica dependerá de la eficacia con la que los sistemas de detección de Instagram detecten cuentas que tienen todos los motivos para evitar por completo dicha etiqueta.