Cuatro estudiantes de una escuela secundaria de Ituzaingó, en la provincia de Buenos Aires, son investigados por la presunta creación y difusión de imágenes falsas de compañeras desnudas mediante herramientas de inteligencia artificial (IA).
Violencia digital
Investigan a cuatro estudiantes de Ituzaingó por crear imágenes falsas de compañeras desnudas con IA
La denuncia apunta a alumnos de una escuela secundaria bonaerense que habrían utilizado inteligencia artificial para manipular fotografías de sus compañeras y difundirlas por internet. La Justicia busca determinar el alcance de los hechos y si hubo una presunta comercialización del material.
La denuncia abrió una investigación judicial para establecer cómo se generaron los archivos, quiénes participaron de su circulación y si el material llegó a comercializarse en plataformas digitales.
El caso se inscribe en una problemática creciente vinculada con los llamados deepfakes sexuales: imágenes manipuladas o generadas artificialmente que representan a personas en situaciones íntimas sin su consentimiento.
Aunque el contenido no corresponda a una fotografía real de desnudez, su producción y difusión pueden ocasionar consecuencias personales, sociales y educativas para quienes aparecen representados.
La investigación se desarrolla a partir de una denuncia por hechos que habrían ocurrido entre estudiantes de la institución. Las sospechas apuntan a que se utilizaron fotografías de alumnas para producir imágenes de contenido sexual mediante inteligencia artificial y luego compartirlas a través de internet.
La responsabilidad de los estudiantes señalados y las circunstancias concretas de lo ocurrido deberán establecerse en el marco de la causa judicial.
Cómo se habría desarrollado la manipulación de las fotografías
Según la información publicada por medios nacionales, los estudiantes investigados habrían recurrido a herramientas de inteligencia artificial para modificar fotografías de compañeras y generar imágenes en las que aparecen desnudas.
La denuncia también plantea que el material habría circulado por internet y que se investiga una posible comercialización.
Uno de los puntos centrales de la pesquisa es establecer de dónde se obtuvieron las fotografías originales y qué herramientas se utilizaron para alterarlas. También se busca determinar si los archivos fueron compartidos en grupos privados, publicados en plataformas digitales o distribuidos por otros canales.
La eventual venta del contenido constituye otra de las líneas que deberán esclarecerse. Para ello, será necesario reconstruir la circulación de las imágenes y analizar los elementos digitales que puedan aportar información sobre la participación de cada uno de los involucrados.
Por tratarse de adolescentes y de una denuncia en etapa de investigación, es importante distinguir las acusaciones de los hechos que puedan acreditarse judicialmente.
La existencia de imágenes manipuladas, su difusión y la posible intervención de otras personas son aspectos que requieren pruebas para establecer responsabilidades.
El episodio también vuelve a poner en discusión el uso de herramientas de inteligencia artificial entre menores de edad y la necesidad de abordar la violencia digital desde las instituciones educativas y las familias.
La posibilidad de crear imágenes falsas con apariencia realista facilita que fotografías cotidianas, incluso aquellas publicadas en redes sociales, puedan utilizarse para producir contenido sexual sin autorización.
En estos casos, la difusión puede multiplicar el daño, ya que el material puede ser copiado, reenviado y almacenado por personas ajenas a la situación original.
Qué se investiga y cuáles son las consecuencias de la violencia digital
La Justicia deberá determinar qué intervención tuvo cada uno de los estudiantes señalados, si hubo una distribución organizada de los archivos y si existieron beneficios económicos asociados con su circulación. También será relevante establecer cuántas alumnas resultaron afectadas y si hay otras personas involucradas.
La manipulación de fotografías mediante inteligencia artificial no elimina el impacto que puede tener sobre las víctimas. La circulación de imágenes sexuales falsas puede generar situaciones de hostigamiento, exposición pública, angustia y aislamiento, además de afectar la convivencia escolar.
Por eso, especialistas en ciudadanía digital recomiendan evitar la reproducción del material y no reenviar archivos cuya difusión pueda vulnerar la intimidad de otra persona. Compartirlos, incluso sin haber participado de su creación, puede ampliar el alcance de la agresión.
Ante una situación de este tipo, las familias pueden conservar mensajes, enlaces, capturas de pantalla y otros elementos que permitan documentar lo ocurrido, sin volver a difundir las imágenes. También pueden recurrir a las autoridades escolares y realizar la correspondiente denuncia para que intervengan los organismos competentes.
En el ámbito educativo, la respuesta requiere acompañar a las estudiantes afectadas, prevenir nuevas situaciones de hostigamiento y garantizar que puedan continuar sus actividades escolares sin ser responsabilizadas por la circulación del contenido.
El caso de Ituzaingó se suma a otras denuncias registradas en el país por la creación de imágenes sexuales falsas mediante inteligencia artificial.
En septiembre, por ejemplo, se conoció una investigación en la localidad santafesina de San Justo por imágenes manipuladas de alumnas de una escuela. Ese antecedente también expuso las dificultades que enfrentan las comunidades educativas ante el uso de estas tecnologías para vulnerar la intimidad.
Mientras avanza la causa bonaerense, el objetivo será establecer cómo se produjeron y difundieron las imágenes, identificar a las personas que intervinieron y determinar las responsabilidades correspondientes.
Hasta que se conozcan resultados de la investigación, las acusaciones contra los estudiantes deben considerarse presuntas y no hechos judicialmente probados.
Sobre el Autor
#TEMAS:
