Advierten por el daño que provocan las imágenes creadas con IA entre adolescentes

La utilización de herramientas de inteligencia artificial para crear imágenes falsas de contenido sensible entre adolescentes comenzó a generar preocupación en el ámbito de la Justicia penal juvenil de Santa Fe.

El fiscal Francisco Cecchini, integrante de la Unidad Fiscal Especializada en Responsabilidad Penal Adolescente (Uferpa) del Ministerio Público de la Acusación, confirmó que la problemática ya es advertida por esa dependencia a partir de distintas causas y denuncias.

Cecchini prefirió no realizar referencias directas a un caso ocurrido recientemente en una comunidad educativa de San Justo, tanto por tratarse de menores de edad que, en principio, serían no punibles como por la necesidad de evitar la sobreexposición de una situación que involucra a un grupo reducido de personas.

Sin embargo, el fiscal consideró necesario poner el foco en el fenómeno general y en sus consecuencias. “La problemática está siendo advertida por la fiscalía”, sostuvo, y explicó que “tenemos causas y denuncias diversas” relacionadas con este tipo de situaciones.

Una conducta, distintos daños

El referente de la Uferpa señaló que estos hechos pueden producir consecuencias diferentes sobre quienes resultan afectados. “En algunos casos provocan diferentes resultados y daños a las víctimas”, manifestó.

Una de las particularidades que presentan estas investigaciones, según explicó, es que habitualmente tanto quienes generan o difunden las imágenes como quienes aparecen en ellas son menores de edad y, además, suelen conocerse entre sí.

Los casos “se están investigando”, aseguró Cecchini. Y si bien reconoció que la creación de este tipo de imágenes “no es un hecho que esté tipificado” específicamente como delito, advirtió que eso no significa que las consecuencias provocadas queden necesariamente fuera del ámbito penal.

“La realidad es que los daños que pueden provocar sí llevaban a la posibilidad de imputar, por ejemplo, las lesiones, que en este caso son psicológicas para con las víctimas y sus familias”, explicó.

De esta manera, el análisis de cada situación no se limita a determinar quién produjo una imagen artificial o quién la compartió, sino también a establecer cuáles fueron sus consecuencias concretas y si esas consecuencias pueden ser encuadradas en figuras previstas por la legislación vigente.

Herramientas cada vez más sofisticadas

Cecchini puso especial énfasis en la evolución de las herramientas digitales disponibles para los adolescentes. “Las herramientas digitales con las que cuentan son lo suficientemente avanzadas y sofisticadas como para generar este tipo de imágenes que son muy realistas”, señaló.

La posibilidad de producir contenidos que pueden resultar visualmente verosímiles agrega una dificultad a situaciones que, hasta hace poco tiempo, requerían conocimientos técnicos considerablemente mayores. Al mismo tiempo, amplía el potencial de circulación de esas imágenes y, con ello, el alcance de sus consecuencias.

“El daño que generan es muy grande”, remarcó el fiscal.

En ese contexto, consideró que la respuesta frente a esta problemática no debe quedar circunscripta a la intervención judicial una vez producido el daño. Para Cecchini, resulta fundamental trabajar en la prevención y en la concientización sobre el uso de estas tecnologías.

El desafío de prevenir

El fiscal llamó a “tomar conciencia del uso de este tipo de herramientas digitales” y planteó la necesidad de que esa tarea involucre a los distintos ámbitos en los que se desarrollan los adolescentes.

La prevención, sostuvo, debe comenzar “en el hogar, en la escuela y en las instituciones donde concurren los adolescentes”, con el objetivo de que exista una verdadera dimensión acerca de los efectos que puede tener el uso irresponsable de estas herramientas.

La preocupación de la Uferpa se inscribe así en un escenario en el que la tecnología avanza con mayor velocidad que las respuestas legislativas específicas, mientras las fiscalías comienzan a recibir casos en los que la manipulación y difusión de imágenes digitales puede generar consecuencias concretas sobre las víctimas.