Violencia digital en el ámbito escolar: el desafío de los deepfakes

En los últimos tiempos, el ámbito de la escuela se ha transformado sustancialmente. Ya no se limita al espacio físico de las aulas, del patio y de sus recreos, sino que se ha extendido hacia un ecosistema digital que opera las veinticuatro horas del día.

Sin embargo, en esta dimensión virtual, la convivencia escolar atraviesa una amenaza urgente y devastadora: la violencia de género digital.

Los hechos ocurridos, recientemente, en una escuela de la ciudad de San Justo, de esta provincia -sumados a los acontecidos en diferentes instituciones educativas de nuestro país-, tienen en común la creación y comercialización de desnudos falsos (deepfakes) mediante el uso de inteligencia artificial generativa, y encienden una alarma que no se puede desoír.

En efecto, no estamos ante juegos inocentes o bromas escolares, sino frente a formas graves de violencia digital que vulneran derechos fundamentales de NNA (imagen, identidad, honor e intimidad), quienes cuentan con la protección integral reforzada de la ley 26.061 y las normas de la Convención sobre los Derechos del Niño y de su Comité.

Asimismo, estas conductas se encuentran contempladas en la ley 27.736 contra la violencia de género digital (conocida como ley Olimpia) y en la ley 26.485 de protección integral a las mujeres.

Un daño que no queda en la pantalla

A pesar de este robusto marco legal, la virulencia y la inmediatez con la que operan las herramientas del ecosistema digital (especialmente, las derivadas de la inteligencia artificial generativa) sobrepasan con frecuencia la capacidad de respuesta institucional.

El impacto sobre la dignidad de las víctimas -en su gran mayoría son chicas adolescentes- es desgarrador, toda vez que la exposición no consentida, como la manipulación digital de la propia imagen genera estados de ansiedad, humillación, angustia, aislamiento y un estigma social que las persigue tanto dentro como fuera de la escuela.

Además, la permanencia de los contenidos en el ecosistema digital eterniza ese daño, y se transforma en una trampa para las víctimas de la que parece imposible escapar.

Prevenir antes de la viralización

Frente a esta realidad, es fundamental adelantarse a la producción del daño, antes de la viralización de su contenido.

Apagar las pantallas o prohibir el uso de la tecnología no resuelve el trasfondo del problema. Se necesita, imperiosamente, el desarrollo de una estrategia integral de prevención que involucre a las familias en su conjunto, a las instituciones educativas, a las empresas, a profesionales de diferentes disciplinas y al Estado.

En su diseño, constituyen instancias ineludibles a recorrer: la alfabetización digital con perspectiva de género, la educación digital en el respeto a la privacidad ajena, en el consentimiento en el entorno virtual y en el uso ético y responsable de las herramientas de inteligencia artificial.

La escuela puede convertirse en un espacio adecuado de contención y de detección temprana de estos hechos. Pero, sola, no puede hacerle frente a esta nueva realidad. Requiere, fundamentalmente, de acciones de capacitación y del acompañamiento y el aporte de todos los actores involucrados.

La respuesta desde Santa Fe

Bajo estas coordenadas, la provincia de Santa Fe ha promulgado, recientemente, la ley “Ema” N° 14.471, para la prevención y el abordaje integral de la violencia digital en el ámbito educativo, siendo pionera en contar con una normativa específica del tema.

En definitiva, nadie puede permanecer indiferente frente a la violencia de género digital en la niñez y la adolescencia, que erosiona la dignidad y el bienestar de personas que están en su etapa de desarrollo.

Garantizar que el entorno digital sea un lugar seguro y libre de violencia para crecer y aprender es una manda de la Constitución de la provincia de Santa Fe de 2025 (art. 28) y una responsabilidad colectiva que no admite más demoras.

* Patricio Octavio Longo es abogado y docente de la FCJS de la UNL.