ChatGPT y Gemini crearon gráficos de noticias falsas; solo Meta AI se negó a hacerlo.

Cuatro chatbots de IA, una tarea que ninguno de ellos debería realizar: una publicación de noticias falsas procedente de una cadena de televisión real, con una afirmación inventada. El equipo de investigación de CORRECTIV pidió a ChatGPT de OpenAI, a Gemini de Google, a Copilot de Microsoft y a Meta AI que hicieran precisamente eso, utilizando ocho afirmaciones falsas que iban desde la dimisión de la canciller alemana hasta un fraude electoral inventado. Tres de los cuatro cumplieron con lo solicitado. Según Bitkom, estas son las cuatro herramientas de IA más utilizadas en Alemania, y solo ChatGPT alcanza el 71 % de los usuarios.

La barrera de seguridad se activó, pero la imagen apareció de todos modos

ChatGPT fue el que peor resultado obtuvo. Generó la mayoría de las falsificaciones de forma inmediata y el resto tras sencillas soluciones alternativas, y sus resultados fueron los más convincentes de la prueba. En una de las pruebas, el modelo reconstruyó toda un área de la pantalla, con el escritorio y una ventana del navegador abierta, y señaló por sí mismo que esto hacía que la impresión de una captura de pantalla real resultara aún más realista.

Otra prueba resulta más reveladora. En ella, ChatGPT escribió que no podía ayudar a crear un gráfico que pareciera proceder de un medio de comunicación real y que presentara una afirmación sin fundamento como un hecho. A pesar de ello, generó la imagen. El mecanismo de protección se activó, pero no se mantuvo. Estos filtros ya han demostrado ser frágiles anteriormente: el equipo de seguridad Unit 42 de Palo Alto demostró en 2025 que una gramática incorrecta por sí sola podía burlar los mecanismos de seguridad, y nuestra guía para principiantes sobre cómo eludir las restricciones de la IA explica lo sencillos que pueden ser esos trucos.

Los medios alemanes resultaron más fáciles de falsificar

Gemini se prestó a ello de forma más directa que ChatGPT y también falsificó el New York Times y la BBC, aunque con resultados visiblemente peores, reconocibles, por ejemplo, por los típicos errores de generación de texto. Copilot produjo contenido al estilo de Tagesschau, el principal programa de noticias de televisión de Alemania, pero siempre añadió una pequeña etiqueta que decía «Generado por IA». Meta AI solo creó algo en un único caso y se negó a difundir esa afirmación falsa concreta.

El hallazgo más llamativo se refiere al origen de la marca. Con ChatGPT se pudieron recrear Tagesschau, Bild y CORRECTIV, pero no el *New York Times* ni la BBC. OpenAI no respondió a la pregunta de por qué, al parecer, se aplican diferentes mecanismos de seguridad en función del medio de comunicación o del país. Un portavoz se limitó a indicar que la empresa sigue mejorando sus medidas de seguridad y que el engaño va en contra de sus políticas.

Desde el 2 de agosto, se aplican las normas de transparencia de la Ley de IA de la UE, que también abarcan a cualquier persona que implemente un sistema de IA. En la prueba, exactamente un proveedor incluyó una etiqueta visible debajo de la imagen generada.

¿Qué ocurre si se difunde una de estas imágenes?

La creación y difusión de publicaciones falsas y convincentes en los medios de comunicación puede constituir un delito en Alemania. El abogado especializado en medios de comunicación Christian Solmecke clasifica este tipo de imágenes como documentos electrónicos falsificados y, en función del contenido, pueden derivarse delitos de difamación, calumnia o incitación. Niklas Mühleis, abogado especializado en derecho de las tecnologías de la información y la IA, añade que los medios de comunicación afectados pueden reclamar medidas cautelares y una indemnización por daños y perjuicios. A ello se suma la legislación sobre marcas registradas: logotipos como el de «Tagesschau» están protegidos, y su uso comercial sin autorización está prohibido. En el caso del intercambio de contenido de carácter puramente privado, Solmecke señala que, por lo general, este aspecto no es aplicable.

No se trata de una cuestión teórica. A finales de julio, circuló en TikTok, X, Instagram y Facebook un supuesto reportaje de «Tagesschau» en el que se afirmaba que existía una conexión rusa con el atentado perpetrado durante el desfile del Christopher Street Day de Berlín. Se trataba de una noticia inventada y, al parecer, elaborada con ChatGPT. Dos semanas antes, había salido a la luz una noticia falsa de la «Tagesschau» sobre una supuesta amenaza de Benjamin Netanyahu.

La prueba no sirve como veredicto general sobre los modelos, y la propia CORRECTIV así lo afirma: diferentes indicaciones o fuentes pueden producir resultados distintos. En una auditoría de NewsGuard, Gemini obtuvo en ocasiones peores resultados que ChatGPT a la hora de repetir afirmaciones falsas.