Malasia e Indonesia se han convertido en los primeros países del mundo en bloquear Grok, el chatbot de inteligencia artificial desarrollado por xAI de Elon Musk, después de que las autoridades determinaran que estaba siendo utilizado indebidamente para generar imágenes sexualmente explícitas y no consensuales. Indonesia implementó un bloqueo temporal de Grok el sábado 11 de enero de 2026, con Malasia siguiendo al día siguiente, marcando una respuesta regulatoria sin precedentes al contenido deepfake generado por IA.
La ministra de Comunicaciones y Asuntos Digitales de Indonesia, Meutya Hafid, declaró que el gobierno considera los deepfakes sexuales no consensuales como una violación grave de los derechos humanos, la dignidad y la seguridad de los ciudadanos en el espacio digital. La Comisión de Comunicaciones y Multimedia de Malasia anunció que restringiría temporalmente el acceso a Grok tras el uso indebido repetido para generar imágenes obscenas, sexualmente explícitas, indecentes, gravemente ofensivas y manipuladas sin consentimiento dirigidas a individuos.
La controversia surge de la función de generación de imágenes de Grok llamada Grok Imagine, que se introdujo el verano pasado e incluía un llamado modo picante capaz de producir contenido para adultos. El aumento de incidentes de desnudo digital comenzó a finales del año pasado cuando los usuarios descubrieron que podían etiquetar a Grok en X y manipular imágenes de personas reales. Los usuarios han incitado al chatbot a generar imágenes de individuos en situaciones comprometedoras, causando angustia a cientos de miles de mujeres en todo el mundo que vieron sus imágenes explotadas.
En respuesta a la reacción global, xAI limitó las capacidades de generación y edición de imágenes a usuarios de pago la semana pasada, pero los críticos argumentan que esta medida no abordó completamente el problema. Cuando la Associated Press contactó para obtener comentarios, la dirección de soporte de medios de xAI envió una respuesta automática que decía únicamente las palabras Mentiras de los medios tradicionales, sin ofrecer ninguna respuesta sustancial a las graves acusaciones de mal uso de la plataforma.
Las restricciones del sudeste asiático han desencadenado un escrutinio creciente de Grok en otras jurisdicciones, incluyendo la Unión Europea, el Reino Unido, India y Francia. El lunes, el regulador de medios del Reino Unido, Ofcom, lanzó una investigación formal para determinar si Grok cumplió con sus deberes de proteger a las personas en el Reino Unido del contenido ilegal. El organismo regulador está examinando posibles violaciones de las leyes de seguridad en línea relacionadas con la generación de imágenes íntimas no consensuales.
En Estados Unidos, la administración Trump ha permanecido en silencio sobre la controversia de los deepfakes de Grok, mientras que senadores demócratas han pedido a Apple y Google que eliminen X de sus tiendas de aplicaciones hasta que la plataforma aborde el contenido dañino generado por IA. La senadora Amy Klobuchar y otros legisladores han expresado su preocupación de que la tecnología está siendo utilizada como arma contra mujeres e individuos vulnerables sin ninguna responsabilidad significativa.
Los defensores de los derechos digitales han acogido con beneplácito las acciones regulatorias de Malasia e Indonesia como pasos necesarios para proteger a los ciudadanos del abuso habilitado por IA. Los expertos señalan que esto marca un punto de inflexión significativo en cómo los gobiernos abordan la regulación de la IA, potencialmente estableciendo precedentes para otras naciones que enfrentan desafíos similares. El incidente ha reavivado los debates sobre las responsabilidades de las empresas de IA de implementar salvaguardas robustas contra el mal uso antes de lanzar herramientas generativas poderosas al público.