Reforma Constitucional en la era digital

Por Federico José Didier y María Marta Didier

Como se advierte fácilmente y tal cual hemos anticipado en nuestra entrega anterior (publicada en la edición del 27 de abril pasado), los derechos y deberes digitales consagrados en los instrumentos jurídicos allí referidos resultan numerosos.

Por eso mismo, la tarea de la Convención Constituyente será dilucidar aquellos principios jurídicos aplicables a los derechos y deberes del entorno digital.

Entre ellos, cabría mencionar, sin pretender ser exhaustivos, aquellos que tienen por objeto la identidad digital, la ciberseguridad y los derechos a solicitar supervisión e intervención humanas en las decisiones automatizadas adoptadas mediante sistemas de inteligencia artificial o tratamientos automatizados de datos en general, y a impugnarlas.

El derecho a la identidad digital reviste especial importancia en los casos de deepfake (**) y robo o suplantación de identidad. El principio jurídico que tiene por objeto el bien de la ciberseguridad consiste en la seguridad digital, la que constituye la base de resguardo de todos los demás derechos.

Los derechos a solicitar supervisión e intervención humana en las decisiones automatizadas y a impugnarlas, cuando se utilizan sistemas de inteligencia artificial, se encuentran consagrados en los Reglamentos de IA y de Protección de datos Personales de la Unión Europea (UE), colocando a la persona humana, como centro de las regulaciones en materia de derechos digitales.

Es preciso destacar el rol de los intermediarios y de los actores no estatales para la tutela de los derechos humanos en el ámbito digital. Así, por ejemplo, con relación a la libertad de expresión, la que ha adquirido gran relevancia con motivo de las redes sociales y buscadores, se han generado diversos debates sobre sus políticas regulatorias de contenidos.

Recientemente, Max Zuckerberg en un video que se difundió el 7 de enero de 2025, también con un comunicado de la compañía Meta titulado "Más discurso, menos errores", anunció el cambio de políticas de moderación de contenidos de sus redes y medios de mensajería en Instagram, Facebook, WhatsApp, entre otros, adoptando un modelo de notas de la comunidad.

Dicho modelo, similar al implementado por X, permite a los colaboradores dejar notas en cualquier post y si una cantidad suficiente de colaboradores con diferentes puntos de vista califican esa nota como útil, la nota se mostrará públicamente en el post.

Sólo el incumplimiento de las Reglas de X, los Términos de servicio o la Política de privacidad de la empresa puede derivar en que se elimine el acceso de una persona a las Notas de la comunidad o en medidas de reparación.

Con respecto al derecho a la identidad digital, los casos de deepfake pueden constituir una violación grave del mismo, por cuanto se imitan imágenes y voz de personas mediante sistemas de Inteligencia Artificial (IA), lo que no permite o torna muy complejo diferenciar si se trata de imágenes o voces reales (humanas), o generadas en forma sintética por la IA.

Dicha problemática de las deepfake está provocando diversos conflictos jurídicos cuando la referida tecnología es utilizada para la comisión de fraudes de distinto tipo, afectaciones a derechos personalísimos como el honor, la imagen y la identidad digital.

En tal sentido, observamos normas que tienden a resguardar el derecho bajo análisis en el Reglamento de IA de la UE, exigiendo a los responsables de despliegue de sistemas de IA destinados a manipular imagen, audio o videos que se asemejen a personas, indicar que se trata de imágenes, voz o sonido generado con inteligencia artificial (considerando 132 del Reglamento).

El rol fundamental de los actores no estatales para la tutela de derechos como la identidad digital, también se advierte ante el surgimiento de proyectos novedosos que proponen productos que tienden a brindar soluciones vinculadas a la seguridad digital, frente a la interactuación con robots o imágenes creadas con inteligencia artificial.

Tal es el caso del proyecto mundial de identidad digital basado en un sistema Blokchain, que emplea biometría física, a través del escaneo del iris mediante un hardware denominado orb (una especie de bola de metal que se encuentra en la vía pública en diversos países). Se trata del World ID 2.0, de Worldcoin, de la compañía Tools for Humanity, del creador del chat GPT Sam Altman.

La empresa promotora de dicho proyecto, recibió ciertos pedidos de informes de autoridades nacionales de protección de datos y se dictó una medida cautelar de la Agencia Española de protección de datos personales en razón de que podría verse afectado el derecho a la protección de datos.

Así también, la autoridad de protección de datos de Baviera (Alemania) ha adoptado una resolución que declara ciertas infracciones al Reglamento de Protección de datos e insta a la empresa a implantar las medidas correctivas oportunas.

Finalmente, también cabe mencionar que la Constitución de La Rioja, con la reforma de 2024, ha establecido en sus artículos 38 y 39 normas relativas a principios vinculados con los derechos y deberes digitales, ciudadanía digital y gobierno abierto.

Como conclusión, es preciso señalar que los contenidos de los instrumentos jurídicos brevemente reseñados podrían constituir una fuente de consulta relevante, a los fines de determinar los principios jurídicos aplicables específicamente al ciberespacio con relación a los derechos y deberes digitales.

Considerarían así el importante rol no sólo del Estado, sino también de los sujetos no estatales intermediarios (ISP) para la tutela de los derechos referidos.

(*) Federico José Didier es abogado, magister en Informática y Derecho (Universidad Complutense de Madrid). María Marta Didier es abogada, doctora en Derecho.

(**) Puede definirse a los deepfakes como videos, imágenes o audios generados por IA que imitan la apariencia y la voz de una persona con tal precisión que pueden engañar tanto a las personas como a los algoritmos.

Generalmente creados en tiempo real, se utilizan comúnmente en videos y filtros de realidad aumentada. Aunque muchas aplicaciones para consumidores emplean esta tecnología con fines de entretenimiento, la creciente accesibilidad de esta tecnología ha llevado a su uso con fines malintencionados.