¿Qué implica que una foto esté Hecha con IA" en las plataformas de redes sociales de Meta?

Una de las mayores preocupaciones en relación a la inteligencia artificial es la capacidad que tiene de generar contenidos audiovisuales con un nivel muy alto de verosimilitud a la realidad (a veces, indistinguible). Pero, no es solo la creación de este tipo de imágenes, audios y videos lo que despierta temor, sino también la difusión de ellos, particularmente en las redes sociales.

En este último tiempo, hubo un pedido colectivo intenso por parte de la sociedad para que las empresas dueñas de las plataformas que usamos diariamente hagan algo en relación a esta preocupación. Hasta entonces, ya se habían registrado casos en los cuales estos contenidos falsos se usaban con alguna intención maliciosa como, por ejemplo, la manipulación de la opinión o difamación.

Meta, entonces, tomó acción. Ya desde febrero de este año anunció que pronto se vería en sus plataformas una etiqueta en las publicaciones que diga “Hecho con IA” para fomentar la transparencia en los contenidos que se difundan por sus redes sociales y que la gente pueda identificar acertadamente qué cosas corresponden a la realidad.

En definitiva, esta etiqueta se pone de forma automática en tu publicación cuando Meta detecta que una imagen, vídeo o audio fue generado con inteligencia artificial, incluso con herramientas de creación de contenido que no son las que ofrece la empresa. Esto implica también la edición de contenidos. Es decir, no tiene que ser algo creado desde cero, sino que también fue retocado con esta nueva tecnología.

Además, según informa la página oficial, cualquier contenido que se cree o edite utilizando las herramientas de IA de Meta y se comparta en Facebook, Instagram o Threads como publicación, historia o carrete se etiqueta automáticamente como contenido de "IA" o, en algunos casos, presenta una marca de agua visible que diga "Imaginado con IA". También, la etiqueta aparece cuando los mismos usuarios identifican sus contenidos generados con IA. Exclusivamente, las personas que utilizan productos Meta para crear fotos, videos o audios pueden, y en algunos casos se les exige, etiquetar su contenido como "Hecho con IA".

Cuando una persona va a compartir un video fotorrealista o audio con sonido realista que hayan sido generados o alterados digitalmente se tiene que poner de manera obligatoria la etiqueta antes de hacerlo público. Puede tratarse de un video que parece verdadero de un grupo de personas, un archivo de audio falso de dos personas hablando, una canción creada con voces generadas por la IA, entre otros.

Críticas

Sin embargo, los profesionales de la fotografía están levantando quejas ante esta nueva política ya que Meta está clasificando mucho de su trabajo como “Hecho con IA” cuando solamente la imagen sufrió simples ediciones con alguna herramienta de Adobe que está potenciada por inteligencia artificial y se usa para remover objetos, según reporta Peta Pixels.

“El hecho de que Instagram etiquete automáticamente una foto como Hecha con IA cuando detecta un relleno generativo es incorrecto y malo y, en última instancia, hará más mal que bien”, escribió en Threads la fotógrafa Noah Kalina. “Si las fotos retocadas están Hechas con IA, el término carece de sentido”, profundiza la profesional.

En diálogo con The Verge, la vocera de Meta, Kate Mc Laughlin, dijo que la empresa está recibiendo y evaluando esta retroalimentación para que las etiquetas reflejen la cantidad de inteligencia artificial utilizada en una imagen. "Nos basamos en indicadores estándar de la industria que otras empresas incluyen en el contenido de sus herramientas, por lo que estamos trabajando activamente con estas empresas para mejorar el proceso para que nuestro enfoque de etiquetado coincida con nuestra intención", agregó McLaughlin.

Este artículo fue originalmente publicado en RED/ACCIÓN y se republica bajo el programa Periodismo Humano.