Las IA generativas, el riesgo de las imágenes falsas y cómo chequearlas

Las inteligencias artificiales generativas parecen superar sus límites semana a semana, principalmente por el avance del conocimiento del usuario para explotarla al máximo y complementarla con otras de su categoría.

Acrecentando el debate sobre si sus creaciones son efectivamente “reales”, debido a su impactante semejanza siendo originales del mundo virtual, este tipo de IA plantean una nueva serie de desafíos para la convivencia del usuario en internet e incluso fuera de ella.

La Media Party Buenos Aires 2023 no escapó a esta discusión e incluso la posicionó como protagonista de su conferencia, planteando objetivos para beneficiar la experiencia y comenzar a discutir sobre los parámetros de su uso.

Un caso no malicioso de este tipo de creaciones que lograron convivir en ambas espacios y contaron con el trabajo sincronizados de varias herramientas es el “Diego Maradona” interactivo a través de una pantalla que presentó la agencia creativa Genosha.

Dentro del bautizado TANGO D10S, Matías Rabaglia, creativo en Genosha, dio lugar a este “Pelusa” joven que se encontraba detrás de una pantalla y los presentes podían dialogar con él.

Por encima de la experiencia en concreto, el detrás de escena contó con la combinación de herramientas generativas de texto, voz y video.

El peligro presente y qué se puede hacer

El riesgo latente de caer en la desinformación, con números en alza dentro del campo generativo, es el drama trae semejante avance tecnológico.

Al igual que a lo largo de la historia, los descubrimientos han tenido su uso malicioso y las IA no han escapado.

Si bien, la precisión de las herramientas sólo llegó al grado de los virales con memes de personalidades cantando o hablando en otros idiomas, las eventuales confusiones con temáticas mucho más complejas están a la vuelta de la esquina.

Incluso, la discusión política en Argentina durante la última semana respecto a filtrados de dos frentes con chances de gobernar el país giró al lado de la IA. Sin mayores repercusiones, se argumentó que los audios de Carlos Melconian por un lado y de Lilia Lemoine por otro, fueron creados con inteligencia artificial (todavía sin confirmar y con escasas probabilidades de que así sea).

La vía de escape no posee un 99% de efectividad, pero sí existen posibilidades de acceder a espacios que brinden información adicional o contextual sobre una foto, video o declaración.

A simple vista, el usuario también cuenta con sus propias capacidades. El observar algún logotipo de aplicación en los vértices de un video, manos con imprecisiones de creación o fondos limitados de detalles, son algunos de los aspectos a los que las personas pueden apuntar para identificar.

Herramientas para el chequeo

Google News Initiative (GNI) ha presentado al público recientemente las herramientas de Fact Check Explorer e Image Context, esta última aún con acceso restringido.

Ambas aplicaciones poseen una orientación de diseño apuntada principalmente a la labor periodística, pero uso se encuentra abierto (en el caso de Image Context en el futuro) a cualquier tipo de usuario.

Fact Check Explorer permite acceder al archivo de informes presentados por los fact-checkers (Chequeado y AP como ejemplos en Argentina actualmente), que refutan, confirman o ponen en duda datos o información compartida en algún espacio de internet.

Con sólo colocar en su buscador alguna palabra clave o “entidad”, se puede ingresar a este tipo de información verificada por Google.

Image Context permite a través de una fotografía o captura de un fotograma de video, acceder a toda la información compartida sobre esa imagen previamente, en caso de que exista una carga previa.

Otras herramientas con aval de GNI:

• RevEye

• About this image

• Futurepedia

• Product hub

• Invid Weverify

• Watchframebyframe

• YouTube Dataviewer

• Deepware IA

• MW geofind

• Archive.org

• IA or Not (canal de Telegram)