En medio de una creciente polémica internacional por la creación de imágenes sexualizadas de personas reales, la red social X —propiedad de Elon Musk— anunció nuevas restricciones a su inteligencia artificial Grok: quedará prohibida la generación y edición de fotografías de personas reales con ropa reveladora como bikinis o ropa interior, tanto para usuarios gratis como de pago, tras denuncias y presión de gobiernos y organizaciones globales.
Debido a los deepfakes
Elon Musk bloquea las imágenes sexualizadas generadas por Grok en respuesta a críticas globales
Nuevas restricciones de la red social X buscan frenar el uso indebido de la inteligencia artificial en la generación de contenido sensible, tras fuertes pedidos y amenazas legales.
La medida, anunciada este jueves, llega después de que Grok se transformara en foco de críticas globales por permitir que usuarios generaran imágenes sexualizadas no consensuadas de personas reales, incluidas mujeres y menores de edad, mediante pedidos directos al chatbot de inteligencia artificial.
Inicialmente, la función de generación de imágenes sugerentes había sido limitada únicamente a usuarios con suscripción de pago, pero la creciente presión —inclusive amenazas de bloqueos y acciones legales en varios países— llevó a Musk y su equipo a bloquear completamente la función para todos los usuarios de X.
Cómo funcionará la restricción
Según informaron desde X, a partir de ahora Grok no podrá crear ni editar fotografías de personas reales para que aparezcan en bikini, ropa interior u otras prendas sugerentes, y se implementará geobloqueo en aquellos países donde ese tipo de contenido es considerado ilegal.
La decisión tiene un alcance global e incluye tanto a cuentas gratuitas como a suscriptores, con el objetivo oficial de combatir el uso indebido de la IA para generar deepfakes sexualizados y otras formas de contenido no consensuado.
Presión internacional y acciones legales
El cambio se produce en un contexto de fuerte reacción internacional: varios países, como Indonesia y Malasia, han bloqueado el acceso o el uso de Grok en sus territorios debido al mal uso de la herramienta. En Europa y Estados Unidos, entidades reguladoras y grupos de derechos digitales también exigieron medidas más estrictas o incluso amenazas de sanciones.
La propia Unión Europea calificó de “ilegales y repugnantes” los deepfakes sexualizados generados por IA que circulaban en la plataforma, y diversos gobiernos ya analizan adaptar sus leyes para penalizar la creación y difusión de ese tipo de contenido.
Más allá de los bikinis: un debate sobre IA y regulación
La polémica con Grok ha reabierto el debate global sobre los límites de la inteligencia artificial en la creación de contenidos sensibles. Expertos en ética digital y derechos humanos destacan que la facilidad con la que estas herramientas pueden producir deepfakes plantea riesgos concretos de violación de la privacidad, explotación y daño reputacional, especialmente cuando se trata de personas no consentidas.
Para algunos críticos, las nuevas restricciones aún son insuficientes, y señalan la necesidad de marcos regulatorios precisos que puedan equilibrar la protección de los individuos con la libertad de expresión y la innovación tecnológica.
El bloque de las imágenes sexualizadas en Grok marca un punto de inflexión en la regulación de inteligencia artificial aplicada a contenidos sensibles, luego de una presión global sostenida por gobiernos, organizaciones internacionales y activistas. La decisión de X subraya, además, los crecientes desafíos que enfrentan las plataformas tecnológicas para gobernar herramientas cada vez más potentes y accesibles, al tiempo que preservan la seguridad y la dignidad de sus usuarios.
Sobre el Autor
#TEMAS:
