Navidad e IA: imágenes virales que alimentan la desconfianza

EFE Zaragoza |

En los últimos días se han difundido una serie de imágenes generadas con inteligencia artificial que mezclan la época de Navidad con la política. La amplia difusión de estas imágenes y su gran verosimilitud, ponen en relieve la facilidad que dan las nuevas herramientas para generar contenidos falsos de alta calidad.

Expertos consultados por EFE Verifica señalan que, aunque estás imágenes presentan situaciones irreales o absurdas, generan una sensación de desconfianza hacia la realidad en sus audiencias. Además, señalan que hemos entrado en una fase en la que se pueden crear contenidos audiovisuales «a la carta».

Por ejemplo, en los últimos días han circulado vídeos de políticos españoles de distintas afiliaciones, o diametralmente opuestas, abrazados en una escena de Navidad (1); o una imagen del rey emérito, Juan Carlos I, y a la actriz Bárbara Rey sentados juntos en ropa de noche, también con un mensaje navideño (1).

IA «a la carta»

Las herramientas de IA disponibles actualmente permiten la creación tanto de vídeos complejos con diversas escenas, personajes y efectos o imágenes generadas con un solo comando. Según señala Alejandro Martín, investigador de la Universidad Politécnica de Madrid, la IA ha entrado en una fase de desarrollo en la que ya hay medios suficientes para generar «contenido audiovisual a la carta».

Según señala el investigador experto en IA, si la desinformación ya era un problema, «que se apoye por contenido multimedia lo agrava y puede hacer todavía más difícil combatirla». Lo que vuelve más necesario informar a la sociedad sobre las capacidades de la IA y tener «una mirada crítica» ante cualquier contenido.

En este sentido, el vídeo de diversos políticos españoles de agrupaciones políticas distintas abrazándose es un ejemplo de un producto generado con IA “muy trabajado». Según Javier Cantón, investigador de la Universidad de Granada, el vídeo fue “generado completamente” y no se trata de una manipulación a la que se le hayan añadido las caras de los políticos.

Según el creador original del vídeo, un usuario en X con el nombre de United Unknown, que difundió la creación con el mensaje “La magia de la Navidad”, la grabación fue creada con tres generadores IA de texto a imagen distintos.

Mientras que la imagen del rey emérito y Bárbara Rey «probablemente» fue generada con un comando en Grok, la herramienta de inteligencia artificial de X.

Aunque ambos ejemplos requirieron de distintos niveles de dominio de las herramientas IA y tiempo, los dos productos han amasado cientos de miles de visualizaciones y se han compartido miles de veces.

Desconfianza a la realidad

Cantón ha explicado que aunque las imágenes no representan ningún peligro por sí mismas, por ser demasiado «irreales», generan una «desconfianza hacia la realidad». Con la difusión de este tipo de creaciones, podemos «volvernos cínicos, descreídos de cualquier información, imagen o vídeo que nos llegue».

«En estas realidades paralelas que estamos creando a la gente ya no le importa la credibilidad de estas imágenes o vídeos, sino su indexicalidad sobre lo que representan», asegura.

Como ejemplo de esto señala el caso de una imagen generada con IA que mostraba a una niña y un cachorro durante el huracán Helene, en Estados Unidos. A pesar de que rápidamente los usuarios de redes identificaron la imagen como sintética, continuó su difusión ya que «representaba bien la realidad en la que creían».

Grok: una potencial arma de odio y desinformación

Según señala el «Reporte de Medio Digitales 2024» publicado por el Instituto Reuters, los usuarios más jóvenes de internet se encuentran con imágenes generadas con IA «frecuentemente». Este amplio uso de IA generativa ha causado la percepción en los usuarios de que cada vez es más difícil detectar desinformación, especialmente «en temas de política».

FUENTES:

Comunicaciones con Francisco Javier Cantón Correa, investigador de la Universidad de Granada.

Comunicaciones con Alejandro Martín García, investigador de la Universidad Politécnica de Madrid.

“Reporte de Medios Digitales 2024”, Instituto Reuters.

«Grok: una potencial arma de odio y desinformación», EFE Verifica.

«How Hurricane Helene Deepfakes Flooding Social Media Hurt Real People», Forbes.