La IA, la violencia digital y el tiempo que falta en las aulas

Los hechos recientes de manipulación de imágenes de alumnas mediante inteligencia artificial en San Justo, sumados a episodios similares en otros puntos del país, volvieron a sacudir a la comunidad educativa.

Las herramientas de inteligencia artificial que crean textos e imágenes ya no solo plantean el dilema de las tareas hechas por una máquina, la duda sobre si un trabajo lo escribió un estudiante o un algoritmo. Hoy golpean en lo más sensible: la intimidad y la dignidad de nuestros jóvenes. Sería injusto decir que el Estado está ausente.

En Santa Fe existen guías de actuación, capacitaciones en el Campus Educativo provincial y Equipos Socioeducativos Interdisciplinarios. En San Justo la causa ya está en manos del Ministerio Público de la Acusación, que recibió a las familias y acompaña a las víctimas. Las instituciones respondieron.

La Ley Ema, sancionada este año (*), es un paso importante: obliga a todas las escuelas de la provincia a trabajar la prevención e incorpora contenidos sobre consentimiento y privacidad. Pero una ley no se cumple sola: necesita docentes preparados y tiempo para llevarla a cada aula.

Sin embargo, en las salas de profesores persiste una pregunta amarga: ¿si los protocolos existen y se cumplen, por qué la violencia digital nos sigue ganando de mano? Porque el protocolo es, por definición, reactivo. Contiene el daño, cuida a la víctima y convoca a la justicia cuando la vulneración ya ocurrió.

Los equipos socioeducativos, cuyo trabajo es valioso pero itinerante y sobredemandado, llegan a la escuela cuando el material ya circuló por decenas de teléfonos en grupos de mensajería. La prevención real no se firma en un protocolo: se construye todos los días en el aula.

Y allí se advierte la brecha entre el deber ser de los campus virtuales y la realidad del trabajo docente. Las capacitaciones asincrónicas, que cada educador cursa en soledad y muchas veces fuera de su jornada, suelen quedarse en la acreditación formal.

Responder cuestionarios para obtener un certificado no da herramientas para abordar, a las ocho de la mañana y frente a treinta adolescentes, el consentimiento, la deshumanización que implican los deepfakes (imágenes o videos falsos creados con IA) o el papel del espectador cómplice que reenvía o festeja un contenido violento.

La escuela tampoco puede hacerlo sola. Recuerdo a una madre cuyo hijo manifestaba actitudes hirientes hacia sus compañeros. Me dijo que ella no intervenía en cómo enseñaba la escuela, y que por eso la escuela debía saber resolver la conducta de su hijo: "Para eso está".

Como si el niño fuera dos personas distintas, una en la casa y otra en el aula. No lo es. Con la tecnología pasa lo mismo, y con más fuerza. Estos contenidos circulan en teléfonos que los chicos llevan a su casa, de noche, lejos de la mirada adulta.

Hablar de consentimiento y de lo que se reenvía en un grupo empieza en la familia; la escuela solo puede acompañar. Hace falta un trabajo conjunto, con familias que se animen a conversar y a poner límites, y escuelas que las convoquen sin señalarlas.

Para que la escuela deje de correr detrás de la última tecnología o de la última crisis de convivencia hace falta una decisión política y pedagógica de fondo: garantizar tiempo institucional protegido y remunerado. Los docentes no necesitan discursos abstractos sobre alfabetización digital ni más reuniones burocráticas.

Necesitan espacios dentro de su horario para encontrarse con sus pares, analizar los dilemas reales de la cultura juvenil, probar las nuevas herramientas, equivocarse y acordar criterios comunes. Un cuerpo docente desbordado y solo no puede enfrentar un fenómeno que avanza a la velocidad de un clic.

Hay además un actor que rara vez se nombra: el que mira. La imagen circula porque decenas la reciben, la reenvían o se ríen. Enseñar a decir "esto no se comparte" es tan importante como sancionar a quien la creó, y no se logra con un módulo virtual: se logra conversando, en un aula, con un adulto presente.

La violencia ejercida con inteligencia artificial no es un problema de computadoras, sino de empatía, de convivencia y de límites éticos. La tecnología cambia a ritmo exponencial, pero las necesidades humanas de resguardo, respeto y mirada adulta son las de siempre.

El protocolo es necesario y los equipos técnicos son indispensables, pero actúan cuando la chispa ya se volvió fuego. Para evitar que se encienda, hay que convertir la formación teórica en presencia pedagógica constante.

Y para eso la escuela necesita horas protegidas, recursos reales en territorio y una comunidad de adultos con espacio suficiente para mirar a los ojos a sus estudiantes antes de que enciendan la pantalla.

(*) Ley Provincial N° 14471, promulgada el 26 de agosto de 2026 y publicada en el Boletín Oficial el día siguiente.

La autora es docente jubilada con treinta y ocho años de antigüedad. Fue directora escolar durante dieciséis años y se desempeñó como supervisora. Escribe sobre gestión escolar y realidad educativa.