El Gobierno del Reino Unido lanzó este martes un llamado urgente a Elon Musk y a su red social X para que adopten medidas efectivas contra la proliferación de deepfakes sexuales, incluidos los que involucran a menores, generados a través de la herramienta de inteligencia artificial Grok.
Uso indebido de Grok
Reino Unido exige a Elon Musk frenar deepfakes sexuales de niños en X: qué significa la medida
El reclamo británico pone en jaque a la red social y su creador, impulsando un debate sobre la regulación de la inteligencia artificial y su impacto en la seguridad digital.
Liz Kendall, ministra de Tecnología británica calificó las prácticas como “espantosas e inaceptables”, en un contexto de creciente presión regulatoria internacional.
Qué está ocurriendo
El Ejecutivo británico pidió públicamente a Elon Musk y a la plataforma que lidera, X (antes Twitter), que implementen soluciones urgentes para detener el uso indebido de Grok, la inteligencia artificial integrada en la red social, que ha sido utilizada para generar imágenes deepfake sexualizadas de personas, incluidos niños y niñas.
La ministra de Tecnología del Reino Unido, Liz Kendall, respaldó las advertencias del regulador de comunicaciones Ofcom, que la semana pasada expresó “serias preocupaciones” por una función de Grok que permitía generar imágenes de personas con poca ropa y representaciones sexualizadas de menores. Kendall sostuvo que este tipo de contenido es “absolutamente espantoso e inaceptable en una sociedad decente” y urgió a X a abordar el problema de forma inmediata.
La ministra añadió que “nadie debería pasar por la experiencia de ver deepfakes íntimos suyos en internet” y afirmó que el gobierno no permitirá la proliferación de imágenes degradantes, especialmente aquellas dirigidas de manera desproporcionada a mujeres y niñas.
Obligaciones legales y respuesta de X
Este reclamo se enmarca en la aplicación de la Online Safety Act británica, que tipifica como delitos el abuso de imágenes íntimas y el ciberexhibicionismo, incluso cuando se cometen mediante inteligencia artificial. La normativa obliga a las plataformas a prevenir la publicación de este tipo de contenido o retirarlo con rapidez una vez detectado.
X reconoció que se han detectado “casos aislados” en los que usuarios generaron imágenes con menores con poca ropa y aseguró que trabaja para bloquear este tipo de solicitudes por completo. Por su parte, Elon Musk advirtió que cualquier usuario que utilice Grok para generar contenido ilegal enfrentará las mismas consecuencias que si publicara material ilícito directamente.
Contexto internacional
El reclamo británico se suma a una ola de cuestionamientos y presiones regulatorias que enfrenta X en otras jurisdicciones. Autoridades europeas han iniciado procedimientos bajo la Ley de Servicios Digitales (DSA) para evaluar el cumplimiento de la plataforma en materia de gestión de riesgos y transparencia. Expertos advierten que la expansión de herramientas de inteligencia artificial generativa eleva el riesgo de producción masiva de deepfakes sexuales con impactos graves en menores y mujeres.
La demanda del Reino Unido marca un punto de inflexión en la supervisión de tecnologías de inteligencia artificial aplicadas a redes sociales. Más allá de un fallo técnico puntual, representa una advertencia sobre la necesidad de marcos regulatorios sólidos que protejan la integridad y seguridad de los usuarios frente a los potenciales daños de la IA generativa.
#TEMAS:
