Grok, el asistente de inteligencia artificial integrado en la plataforma X, propiedad de Elon Musk, desactivó este viernes su función de generación y edición de imágenes para los usuarios que no cuentan con suscripción de pago, la decisión se produce tras una ola de críticas y protestas internacionales por la creación de imágenes falsas sexualmente explícitas de mujeres y menores, elaboradas a partir del retoque de fotografías y videos de personas reales para hacerlas parecer desnudas.
El uso de esta tecnología generó una fuerte reacción pública y política, al considerarse una herramienta que facilitaba la difusión de contenido ilegal, humillante y perjudicial para las víctimas, cuando usuarios de X intentaron utilizar la función, Grok respondió que la generación de imágenes ahora está reservada exclusivamente para suscriptores de pago, una medida que lejos de calmar las críticas, intensificó la polémica.
El gobierno del Reino Unido fue uno de los más contundentes en su rechazo, en portavoz del primer ministro Keir Starmer afirmó que la decisión de X “no resuelve el problema de fondo”, sino que simplemente convierte una función capaz de producir imágenes ilegales en un servicio premium, lo que calificó como “un insulto a las víctimas de misoginia y violencia sexual”, la ministra de Tecnología Liz Kendall, también condenó el contenido difundido en los últimos días, describiéndolo como “atroz e inaceptable en cualquier sociedad que se precie”.
Desde Bruselas, la Comisión Europea tomó nota de los cambios introducidos por la plataforma, pero los consideró claramente insuficientes, Thomas Régnier portavoz de la Comisión Europea para Asuntos Digitales, señaló que el problema no radica en si la función es gratuita o de pago, sino en que ese tipo de imágenes no deberían poder generarse bajo ninguna circunstancia, en ese sentido, la Comisión exigió a las plataformas tecnológicas que garanticen que el diseño y funcionamiento de sus sistemas impidan la creación de contenido ilegal.
Como respuesta al escándalo, la Comisión Europea anunció la imposición de una medida cautelar contra X, que incluye una “orden de conservación” obligando a la empresa a preservar todos sus documentos internos relacionados con Grok hasta finales de 2026, esta medida busca facilitar futuras investigaciones y posibles sanciones en el marco de la Ley de Servicios Digitales (DSA).
A principios de diciembre la Unión Europea ya había sancionado a X con una multa de 120 millones de euros por infringir dicha legislación, pese a las críticas y amenazas del presidente estadounidense Donald Trump, quien acusa al bloque europeo de atacar a las grandes empresas tecnológicas de Estados Unidos.
Mientras tanto, el gobierno británico reiteró su llamado a X para que implemente de manera urgente soluciones eficaces que frenen la proliferación de imágenes falsas sexualmente explícitas generadas por inteligencia artificial, las autoridades coinciden en que el caso Grok pone de relieve los riesgos del uso irresponsable de la IA y la necesidad de una regulación más estricta para proteger a las personas frente a abusos digitales.