Filipinas anunció el jueves que bloqueará el acceso al chatbot de IA Grok de Elon Musk, uniéndose a Malasia e Indonesia en una represión regional por preocupaciones de que la herramienta puede generar imágenes sexualizadas, incluyendo contenido que presenta riesgos para la seguridad infantil. El secretario de Telecomunicaciones Henry Rhoel Aguda declaró que el país espera bloquear Grok esta noche en todo Filipinas.
La decisión se produce mientras las naciones del sudeste asiático toman medidas rápidas contra el chatbot desarrollado por xAI tras informes de usuarios creando imágenes explícitas no consensuadas. Renato Paraiso, director ejecutivo interino del Centro de Investigación y Coordinación de Cibercrimen, confirmó que el gobierno está trabajando con la Comisión Nacional de Telecomunicaciones para implementar la prohibición. Enfatizó la urgencia, declarando que necesitan limpiar internet ahora porque mucho contenido tóxico está apareciendo con el advenimiento de la IA.
Malasia e Indonesia se convirtieron en los primeros países en bloquear completamente Grok durante el fin de semana, con Indonesia implementando su prohibición el sábado y Malasia siguiendo el domingo. La respuesta regional coordinada refleja la creciente alarma entre los gobiernos asiáticos sobre el contenido explícito generado por IA. El Fiscal General de California, Rob Bonta, también ha lanzado una investigación sobre xAI y Grok por las mismas preocupaciones.
En respuesta a la creciente presión internacional, X anunció el miércoles que geobloqueará la capacidad de todos los usuarios de Grok y X para crear imágenes de personas en bikinis, ropa interior y atuendos similares en jurisdicciones donde tales acciones se consideren ilegales. Sin embargo, los funcionarios filipinos indicaron que la promesa de X no tendría efecto en los planes del gobierno, añadiendo que observarían si la plataforma cumple sus promesas.
La controversia se centra en las capacidades de generación de imágenes de Grok, que los críticos dicen han sido explotadas para crear deepfakes sexualizados de personas reales sin su consentimiento. Surgieron informes de usuarios generando imágenes explícitas de figuras públicas, celebridades y personas comunes, planteando serias preocupaciones de privacidad y consentimiento. Los defensores de la seguridad infantil han sido particularmente vocales, advirtiendo que tal tecnología podría usarse para crear material de abuso sexual infantil.
Los analistas tecnológicos señalan que esto representa uno de los desafíos regulatorios más significativos que enfrentan las herramientas de generación de imágenes por IA. La acción rápida de múltiples gobiernos señala un posible cambio hacia una supervisión más estricta de las capacidades de IA generativa. Los observadores de la industria sugieren que otros países podrían seguir con restricciones similares a medida que continúan creciendo las preocupaciones sobre el contenido dañino generado por IA.
La empresa xAI de Musk ha enfrentado un escrutinio creciente desde el lanzamiento de Grok, con críticos argumentando que la empresa no implementó salvaguardas adecuadas contra el mal uso. La empresa aún no ha emitido una respuesta completa a la creciente lista de países que bloquean el acceso a su plataforma.