Moralidad artificial

“ – … y le hicimos una joda que casi le da un infarto – se jactó Ulises mientras se ría hasta casi ahogarse.

-¿Tan graciosa fue? – le pregunté.

-Ni te imaginás… - Hice un gesto con una mano, invitándolo a proseguir – Le hicimos creer que su novia se había tranzado al pibe de enfrente de su casa.

-¿Y eso por qué? – quise saber.

-Por joder – dijo él, encogiéndose de hombros – Y nos salió re-bien.

-¿Y qué fue lo que hicieron?

-Agarramos una foto de los dos y creamos una en la que los dos aparecían chapando en el patio de ella. Sentí la taquicardia en mí mientras imaginaba por dónde venía la situación, y le pregunté:

-¿Cómo hicieron eso?

-¡Con I.A., Ale! ¿Con qué lo vamos a hacer? – Hizo un gesto de triunfo – La hicimos de lujo.

Lucho casi se muere…

-¿Y lo que ustedes querían era que se muriera?

-Naaaaaaaaaaaaa… - Volvió a reír – Pero fue genial verlo casi desmayarse…”

El uso inadecuado o sin supervisión de la Inteligencia Artificial (IA) puede afectar negativamente el desarrollo moral y ético de niños y adolescentes al exponerlos a sesgos y erosionar su capacidad de introspección y comprensión, fomentando comportamientos deshonestos, desaprensivos, obscenos e inmorales.

El fenómeno de que a niños y adolescentes gusten las bromas pesadas es bastante complejo, y es importante considerar que una broma “pesada" deja de ser una broma cuando el humor se convierte en agresión, humillación o burla, y no es gracioso para la persona que es objeto de ella.

Mediante la IA se puede, por ejemplo, generar imágenes de desnudos falsos extremadamente realistas (deepfakes) o de cualquier situación entre personas, en cualquier lugar, sin su consentimiento, lo que constituye una grave forma de violencia sexual digital y violación de la intimidad.

En la adolescencia, el grupo de pares es central y el estatus social es crucial. Las bromas pesadas a menudo sirven como una herramienta para establecer o reforzar la posición dentro de ese entorno: Ridiculizar, avergonzar o humillar a otros coloca al bromista en una posición de poder, y al aplicar la burla o la broma es percibido como “el fuerte” dentro del grupo. Al hacerlos reír, incluso a costa de otro, el adolescente gana atención y la sensación de ser valorado y aceptado. Incluso, la risa del grupo funciona como un refuerzo positivo de la conducta y participar en estas bromas es una forma de demostrar la pertenencia y de validar sus opiniones sobre lo que es aceptable reírse. Paradójicamente, la necesidad de sentirse superior a menudo oculta una profunda inseguridad en el bromista, y burlarse de los demás o hacer bromas pesadas puede ser un mecanismo de defensa contra la incomodidad y la timidez.

Durante la adolescencia se exploran las reglas sociales y sus consecuencias: El humor, en general, implica una transgresión de una norma de forma relativamente benigna. En el caso de las bromas pesadas, se cruza la línea de lo "benigno" para explorar hasta dónde pueden llegar antes de que haya consecuencias reales. Al centrarse en la ganancia de placer de la risa propia y del grupo, se pierde la empatía respecto a la persona afectada que, al menos en el momento, no importa en lo más mínimo.

Para mitigar estos peligros, es crucial la supervisión digital adulta y la construcción de una madurez emocional, educando a niños y adolescentes sobre el uso ético de la IA promoviendo la reflexión crítica para que no pierdan su esencia ni su criterio moral al interactuar con otros, presencialmente y mediante estas tecnologías porque la moralidad debe ser siempre un valor natural… y no artificial.