Cuando la política es fake news: Argentina frente al dilema de manipulación electoral mediante IA

Fue un video de un minuto y diecinueve segundos. Era una supuesta grabación de Mauricio Macri instando a votar por el candidato de La Libertad Avanza, Manuel Adorni, en vez de su propia referente, Silvia Lospennato. Todo era falso. Pero en esta era poco importa la verdad, el daño ya estaba hecho: el video se viralizó y encendió las alarmas.

El mensaje, disfrazado de realidad, circuló sin freno el día previo a las elecciones. El video había sido generado mediante inteligencia artificial, manipulando la imagen y la voz del expresidente y líder del PRO. Buscando alterar el voto en el último minuto se gestó más que una Fake News: fue el primer viral de relevancia hecho por IA pensado para intervenir en la arena política argentina.

El episodio derivó en un proyecto de ley en el Congreso. Fue presentado por Julio Cobos. Se titula "Protección del Régimen Electoral frente a la desinformación generada por contenidos manipulados". Tiene el aval de bloques opositores y busca incorporar un nuevo capítulo al Código Electoral Nacional para proteger el voto de la falsa propaganda.

Más allá del caso testigo y el intento regulador, una pregunta persiste: ¿cómo se protege la democracia de la manipulación cuando solo está a un clic o un scroll de distancia? "No es un problema de la tecnología, es un síntoma de una sociedad que no tiene herramientas para interpretar lo que consume", apunta Leandro Di Persia, bioingeniero, doctor en Ingeniería, investigador del CONICET y director de la carrera de Ingeniería en Inteligencia Artificial de la Universidad Nacional del Litoral.

Alarmas encendidas

Lo novedoso del video de Macri no fue la falsedad en sí misma, ni siquiera el uso de IA, aclaró Di Persia, sino la calidad del contenido generado y su objetivo claro: modificar la voluntad del votante en el momento justo.

Por las redes ya venían circulando fakenews, con imágenes intervenidas, videos sacados de contexto, memes de candidatos y mensajes malintencionados. La diferencia es que, esta vez, el contenido fue calculado y efectivo. No solo fue la imagen o la voz simulada del expresidente, también fue el contenido del mensaje. Y todo esto aprovechando las bondades de un sistema tecnológico sofisticado.

El impacto político fue inmediato. Apenas pasaron un puñado de comicios locales y resta todavía una larga lista de elecciones durante el año. Por este motivo, el Congreso apuró una iniciativa para regular la difusión de contenidos manipulados durante las campañas.

"Es positivo que se actúe, pero el problema no se resuelve solo con leyes", adviertió en ese sentido Di Persia. "Se trata de un asunto complejo, con consecuencias que aún no dimensionamos del todo."

Una herramienta poderosa ¿en manos de quién?

"La inteligencia artificial es una herramienta. Como un martillo: podés construir una casa o podés hacer daño con ella", ejemplificó el especialista, advirtiendo que lo preocupante no es el potencial técnico, sino el uso malintencionado que se le pueda dar y una sociedad sobreexpuesta que la pueda recibir.

"Las redes sociales están repletas de exageraciones, medias verdades y montajes, pero la mayoría de la gente los consume como si fueran realidades cerradas. El problema es cultural: no sabemos contrastar cuando algo es cierto de cuando es falso. Y cuando aparece algo tan verosímil como un deepfake de un candidato, quedamos expuestos", analizó Di Persia.

De acuerdo al especialista, detectar contenidos falsos generados por IA es complejo. No existe por ahora un software que certifique con certeza que un video fue manipulado. Por eso, insiste en que "la solución no va a venir desde un programa; hay que desarrollar defensas sociales, legales, institucionales para prevenir este tipo de mensajes".

El proyecto presentado en Diputados por Julio Cobos va en ese sentido: establece un plazo de 60 días antes de las elecciones como "período de restricción", obliga a plataformas digitales a eliminar videos manipulados en 48 horas, y exige rotular los contenidos sospechosos. Sin embargo, no habla de sanciones para quien crea el contenido.

En ese punto, la justicia corre detrás. "La justicia no puede actuar si no tiene un marco legal claro. Hoy ni siquiera tenemos tipificaciones precisas para esto. ¿Está mal crearlo, difundirlo, usarlo con dolo? ¿Qué pena corresponde? ¿Cómo diferenciamos entre un intento de manipulación y una sátira inofensiva?", se preguntó Di Persia.

En ese limbo legal, todo pareciera dar lo mismo: "el adolescente que sube un video irónico y el operador que monta una operación político sucia quedan en la misma categoría", señala Di Persia.

Modelos en disputa

Mientras Argentina intenta dar sus primeros pasos regulatorios, el mundo ya está dando la discusión. A grandes rasgos, Di Persia señaló dos modelos en pugna. "La Unión Europea va por un camino de control estricto: prohibiendo preventivamente los usos riesgosos, exigen registro y trazabilidad. Estados Unidos, en cambio, prefiere habilitar el uso y sancionar solo si hay abuso".

El investigador indicó que lo deseable sería una postura intermedia, pero no escondió la dificultad de arribar a ese punto: "La discusión sigue teniendo un poco de prueba y un poco de error. En todo caso, lo que creo importante es que el proceso esté guiado por el conocimiento y el interés público, no solo por el interés de los desarrolladores tecnológicos."

En ese sentido, Di Persia advirtió una omisión en la discusión actual: "Se habla mucho de convertir a Argentina en un polo de inteligencia artificial. Y eso está bien, oero cuando se convocan a eventos, solo aparecen empresarios. ¿Dónde está la mirada académica, que estudia esto desde hace décadas? Tenemos que hacer convivir al mercado pero con el norte puesto en el interés social".

Educación integral

Di Persia trabaja en el campo de la inteligencia artificial desde hace más de dos décadas, investigando los procesamiento de señales y sistemas complejos y proveyendo soluciones tecnologías innovadoras para distintos sectores.

Actualmente, en la Facultad de Ingeniería y Ciencias Hídricas de la Universidad Nacional del Litoral, es director de Ingeniería en Inteligencia Artificial, carrera pionera en la educación pública de grado superior en nuestro país.

Como parte de los contenidos que allí se enseñan, destaca que en el dictado de las materias se incluyen módulos específicos sobre ética y derecho. "Tenemos que formar ciudadanos tecnológicos, con principios y capacidad crítica", afirma

Asimismo, destaca que en las clases también se propician debates interdisciplinarios con filósofos, abogados, comunicadores y expertos en distintas disciplinas que son invitados para enriquecer el estudio de la disciplina. "Queremos que nuestros alumnos entiendan que un algoritmo no es neutral y que sus decisiones tienen consecuencias sociales", manifiesta.