"Toda acción en el mundo digital tiene consecuencias"

"El avance de la tecnología digital plantea grandes desafíos a la sociedad. Por ello es fundamental que la familia acompañe a sus menores de edad. Los adultos deben estar muy presentes desde que el niño o la niña tenga un dispositivo digital en sus manos, que use una red social, que comience a interactuar por Internet. Hay que acompañarlos, aprender con ellos y enseñarles cuestiones clave. Interiorizarse sobre las aplicaciones que utilizan, la plataforma Discord o Youtube Kid, cuáles son los juegos en los que participa y cómo se comunica con los demás a través de ellos. Lo mismo que hacemos como padres para los peligros del mundo físico ('fijate cuándo y dónde cruzar la calle', 'no hables con extraños', etc.), debemos aplicarlo al mundo digital: 'cuidado con quién chateás, no brindes información sobre tu identidad, no subas contenido a redes sin saber adónde va a ir. Cuando uno publica algo en Internet pierde el control del posteo automáticamente, y eso puede jugar a favor o en contra más adelante", explicó Rodrigo Álvarez, consultor en Ciberseguridad, expositor internacional sobre el tema y Coordinador Regional de la ONG Argentina Cibersegura.

"Hubo un caso en Santa Fe en el que un adolescente ganó una beca para mejorar su inglés en Estados Unidos, pero cuando tuvieron la entrevista en la embajada se la negaron. El problema fue que cuando era prácticamente un niño le había dado like a un video en donde alguien le prendía fuego a la bandera norteamericana. Las autoridades interpretaron eso como un acto de terrorismo y con 15 años se perdió la posibilidad de hacer el viaje. Eso es lo que hay que enseñar. Todo lo que pasa en el mundo digital tiene consecuencias, que pueden ser buenas o malas. Le pasó al deportista Pablo Matera en Los Pumas, cuando alguien detectó un viejo twit y terminó costándole el alejamiento de la selección nacional de rugby.", puntualizó el especialista.

Luego, Álvarez recomendó "pensar dos veces antes de subir algo a Internet". "Hay que aprender a tomarse unos minutos para analizar qué vamos a publicar -ya sea una foto, un video o un comentario-, dónde y para quién. Los chicos están creciendo con eso y lo viven natural. No se dan cuenta de las posibles consecuencias. Sólo quieren tener más seguidores. Debemos aprender y enseñar a tener empatía con la gente. Todo lo que publiquemos puede afectarnos o afectar a otros", enfatizó.

Inteligencia Artificial

El especialista hizo hincapié en la necesidad de tomar todos los recaudos posibles fundamentalmente por los peligros que trajo el desarrollo de la inteligencia artificial (IA).

"No hay que demonizar la herramienta, que llegó para mejorar procesos, para automatizarlos, para agilizar cuestiones en el plano de la salud, la seguridad, la industria, las empresas… para el uso cotidiano, para generar contenidos, para ayudar a emprendedores. Tiene buenas finalidades, pero también existen los que aprovechan para darle mal uso", advirtió.

Particularmente, se refirió al ataque que pueden sufrir menores de edad. "Hoy es relativamente sencillo generar fotos y videos 'truchos' a partir de archivos reales. Con IA, es relativamente sencillo hacerlo. Así, hay gente que inserta rostros de personas en fotos o videos de otras, o que clona la voz de alguien para inventar un mensaje que nunca fue dicho", enumeró Álvarez.

"En el caso de los chicos -agregó-, se pueden 'trabajar' imágenes reales con ropa y usar aplicaciones para 'desvestirlos'. El efecto en las víctimas es tan grave como si se tratara de documentos verídicos. Inclusive, puede ser peor el daño ocasionado, porque es algo que no hizo. La cabeza del menor de edad no está preparada para enfrentar esa situación en donde se viola su intimidad, su pudor".

Fácil

Hoy es relativamente sencillo utilizar herramientas de IA para perpetrar esos delitos. "Hay canales en la aplicación Telegram con los que con unos simples pasos se puede hacer cualquier cosa. Vos subís una imagen original y un chatbot (sistema de respuestas automáticas) te va llevando para usar una aplicación que se llama miniweb o microweb que funciona dentro de dispositivos móviles y que generan los archivos apócrifos. Hay varias. Algunas sólo generan la desnudez. Por ejemplo, a una mujer en la playa le sacan la bikini. Otra, te pone la cara de una persona en la foto de otra o en un video que ya existe de pornografía. Le sucedió a la actriz Luciana Lopilato, con un video en donde presuntamente se la veía sin ropa frente al espejo".

Profundo

"Lamentablemente, cada vez son más frecuentes los casos de deepfake. Se utiliza mucho para las campañas sucias de la política. Le pasó hace poco al presidente Javier Milei, a quién le clonaron la voz para inventar un mensaje", recordó.

"El daño que causa este tipo de acción es enorme, fundamentalmente cuando las víctimas son menores de edad. Y es más grave aún cuando el contenido se comercializa. Ocurrió en Buenos Aires y se viralizó la semana pasada un caso en el que un joven consiguió imágenes de su exnovia y sus amigas y generó las imágenes falsas pornográficas. Primero las distribuyó gratuitamente en la plataforma Discord. Luego, las empezó a vender. Finalmente se supo que el material se estaba distribuyendo en una comunidad online de pedófilos", concluyó Álvarez.