Impulsan en el Congreso un proyecto para combatir "fake news" electorales

La proliferación de desinformación en contextos electorales, fundamentalmente bajo la forma de fake news, y la mayoría de las veces potenciada con el uso de tecnologías de Inteligencia Artificial y amplificada por plataformas digitales, se ha convertido en un cuadro de situación común en nuestro país, pero que en rigor replica lo que sucede en otras partes del mundo.

Se trata de prácticas que no solo afectan sustancialmente la calidad del debate público, sino que también ponen en riesgo la integridad de los procesos electorales y la libre formación de la voluntad popular, es decir, las bases mismas del sistema. Así lo ha entendido la Justicia Electoral en pronunciamientos judiciales y también en la conformación de protocolos y bases de datos sobre sitios web y cuentas en redes sociales; más allá de que cualquier registro de ese tipo vaya a quedar sistemáticamente desactualizado o eludido con los medios que proporciona el mismo entorno digital al que se pretende controlar.

Ahora el debate pretende ser llevado a la órbita del Congreso de la Nación, a través de un proyecto presentado por la diputada Silvia Lospennato, que propone regular la difusión de información falsa y contenidos manipulados en contextos electorales, con el objetivo de resguardar la transparencia de los comicios y garantizar un voto libre e informado. Todo esto frente a una agresión que se agrava con la expansión del uso de herramientas de Inteligencia Artificial generativa, en especial aquellas que permiten la creación de deepfakes: imágenes, audios o videos que simulan de manera realista a una persona diciendo o haciendo algo que nunca ocurrió.

Antecedentes cercanos

La propia Lospennato fue víctima de una maniobra de ese tipo este año, en el marco de la campaña electoral para la elección de legisladores porteños. En esa ocasión, se difundieron videos falsos de ella y de Mauricio Macri en los cuales, el 18 de mayo y horas antes de los comicios, se veía a ambos anunciando el retiro de la candidatura de Lospenatto, para propiciar de inmediato el apoyo al oficialista Manuel Adorni.

Unos meses atrás, la Cámara Nacional Electoral (CNE) se había expedido sobre un caso de 2021 en perjuicio del entonces candidato Mario Negri, y sentado jurisprudencia en el sentido de que la difusión de videos falsos durante una campaña puede constituir un delito electoral; y esos hechos configuran "fenómenos de violencia que distorsionan el debate público".

El fallo señaló que, "el ejercicio del derecho a la participación política supone que aquellos derechos humanos fundamentales se encuentren garantizados, de modo tal que los electores y los candidatos puedan expresar sus ideas y opiniones sin factores que, como la violencia, la intimidación o la desinformación en línea, interfieran en su libertad de votar y de ser votados".

Con citas de ese mismo fallo, el proyecto presentado por Lospenatto apunta que el fenómeno abordado "plantea tensiones delicadas con la libertad de expresión" (precisamente, la excusa invocada desde el oficialismo para avalar el engaño). Y que por ello, se busca equilibrar el respeto a ese derecho fundamental con "la necesidad de proteger la integridad del proceso democrático, limitando su alcance exclusivamente a los casos en que exista una intención deliberada de manipular al electorado mediante falsedades graves".

En otros países

A ese respecto, se cita la jurisprudencia de la Cámara Nacional Electoral y diversos antecedentes internacionales, como la legislación brasileña sobre fake news y los debates en curso en la Unión Europea y Estados Unidos.

En ese mismo plano, un informe de Cippec da cuenta de iniciativas asumidas en Francia y Alemania. El país germánico aprobó recientemente una ley tendiente a eliminar y restringir las noticias falsas, la difamación y los mensajes de odio en las redes sociales, incluyendo multas a tales plataformas cuando no establezcan mecanismos eficaces de gestión, o bien cuando no se eliminen tales contenidos. En Francia, a instancias del presidente Emmanuel Macron, la Asamblea Nacional aprobó una norma que permitirá a un candidato o a un partido recurrir a un juez para frenar la difusión deliberada de "informaciones falsas" durante los tres meses precedentes a un escrutinio nacional.

Un camino distinto adoptó México a partir de 2018. Allí el Instituto Nacional Electoral (INE) optó por el acuerdo con las principales plataformas digitales, convencido de que una regulación punitiva sobre las redes sociales y las noticias falsas podía poner en riesgo uno de los derechos fundamentales de la democracia, la libertad de expresión. En virtud de estos convenios, las plataformas se convirtieron en canales potenciadores de la información oficial sobre el proceso electoral -con el propósito de neutralizar las noticias falsas-, e incluso transmitieron los debates presidenciales. En forma paralela, más de 60 medios de comunicación conformaron una alianza, cuyo objetivo fue detectar, en un trabajo conjunto de investigación, las noticias falsas y analizar cuán verosímiles eran las propuestas de los candidatos.

Qué dice el proyecto

En concreto, la iniciativa que se busca discutir en el Congreso nacional limita su alcance a los períodos de campaña y establece multas de hasta 150.000 módulos electorales (hoy a $385,31) para quienes generen o difundan noticias falsas o contenidos sintéticos manipulados -como imágenes, audios o videos "deepfake"- que puedan incidir en el resultado electoral. Asimismo, prevé sanciones a partidos políticos si sus afiliados o dirigentes participan en este tipo de conductas, y agrava las penas cuando la difusión se produce mediante sistemas automatizados o estrategias organizadas.

Si bien el artículo 140 del Código Electoral Nacional ya contempla penas de 2 meses a 2 años de prisión para quien induzca con engaños a otra persona a sufragar en determinada forma o abstenerse de hacerlo, la propuesta en cuestión explicita que las multas a aplicar "no impiden el inicio y prosecución de otras acciones electorales, administrativas, penales".

En materia de plataformas digitales, el proyecto fija un régimen de deberes y responsabilidades: deberán actuar en un plazo máximo de 12 horas para etiquetar, desmonetizar o remover contenidos prohibidos por orden de la Justicia Nacional Electoral, además de implementar políticas preventivas, canales de denuncia y mecanismos de transparencia en sus algoritmos de recomendación. Todo elector y el Ministerio Público Fiscal estarán legitimados para denunciar contenidos falsos o manipulados.

El articulado contempla también excepciones para expresiones artísticas, satíricas o de parodia, así como para contenidos debidamente etiquetados como manipulados o piezas de publicidad política con alteraciones mínimas.

Más allá de cuál vaya a ser el camino que se tome, el proyecto presentado ahora en el Congreso subraya que "Argentina, como democracia madura, debe anticiparse a estos desafíos para no permitir que la tecnología erosione el sistema representativo, republicano y federal consagrado por la Constitución".

Qué es un deepfake

Los deepfakes son videos generados sintéticamente con tecnología basada en inteligencia artificial con el objetivo de crear secuencias falsas pero realistas, en las que se busca modificar la apariencia física e incluso la voz de las personas y hacerles decir o hacer algo que nunca dijeron o hicieron.

El término deepfake proviene de la combinación de las expresiones deep learning (aprendizaje profundo, en inglés) y fake (falso, en inglés), y denota, justamente, algo falso que es resultado de la tecnología de aprendizaje profundo.

Según resalta un informe del sitio Chequeado, el problema de los deepfakes es que pueden utilizarse para distorsionar discursos de figuras políticas, como ya ha sucedido en diversas ocasiones. Ocurrió, por ejemplo, con el presidente de Ucrania, Volodímir Zelenski, con los candidatos Lula da Silva y Jair Bolsonaro durante las elecciones presidenciales en Brasil de 2022, y con el ex presidente estadounidense Donald Trump.

La técnica del deepfake, muy utilizada para producir contenidos sexuales no consentidos, consiste en recopilar cientos de imágenes de una persona y enseñarle a un programa a interpretar sus distintos modismos para poder adaptarlos a distintas situaciones.