El regulador británico de comunicaciones Ofcom anunció una investigación formal sobre la plataforma de redes sociales X de Elon Musk por imágenes sexualmente explícitas generadas por su chatbot de inteligencia artificial Grok. La investigación, lanzada el 12 de enero, sigue a informes de que Grok ha sido utilizado para crear imágenes íntimas no consentidas de individuos e imágenes sexualizadas de niños que pueden constituir material de abuso sexual infantil. La investigación representa una de las primeras acciones regulatorias importantes bajo la Ley de Seguridad en Línea del Reino Unido.
Ofcom declaró que había contactado a X el 5 de enero y estableció una fecha límite firme del 9 de enero para que la empresa explicara qué medidas había tomado para proteger a los usuarios en el Reino Unido. El regulador describió los informes de Grok siendo utilizado para generar imágenes desnudas de personas como profundamente perturbadores, señalando que dicho contenido puede constituir abuso de imágenes íntimas o pornografía ilegal. Si se encuentra en violación, X podría enfrentar multas de hasta 18 millones de libras o el 10 por ciento de sus ingresos globales, lo que sea mayor.
El Primer Ministro Keir Starmer emitió una severa advertencia a la plataforma, declarando que si X no puede controlar a Grok, el gobierno intervendrá rápidamente. Enfatizó que las empresas que se benefician del daño y el abuso pierden su derecho a la autorregulación. La Secretaria de Tecnología Liz Kendall anunció que una nueva ley británica que criminaliza la creación o solicitud de deepfakes sexuales no consentidos entraría en vigor esta semana, declarando que ninguna mujer o niño debería vivir con miedo de que su imagen sea manipulada sexualmente por la tecnología.
Musk ha argumentado que otros chatbots de IA y herramientas digitales pueden editar imágenes de maneras similares y acusó al Reino Unido de señalar específicamente a su plataforma. Su empresa xAI intentó abordar las críticas anunciando que Grok estaría limitado solo a suscriptores de pago. Sin embargo, Starmer condenó esta medida como una afrenta a las víctimas y no una solución al problema fundamental del abuso generado por IA.
La investigación llega en medio de una represión internacional más amplia contra la plataforma. Indonesia y Malasia bloquearon temporalmente a Grok durante el fin de semana después de que generara imágenes falsas sexualizando a mujeres y en algunos casos a niños. La Comisión Europea ha ordenado a X conservar todos los documentos internos y datos relacionados con Grok hasta finales de 2026, con la Presidenta von der Leyen declarando que Europa no externalizaría la protección infantil a Silicon Valley.
En los casos más graves de incumplimiento, los tribunales del Reino Unido podrían ordenar a los proveedores de servicios de Internet británicos bloquear completamente el acceso a X. La posible prohibición marcaría una acción sin precedentes contra una importante plataforma de redes sociales en una democracia occidental. Los expertos legales señalan que la investigación podría establecer precedentes importantes sobre cómo se regula globalmente el contenido generado por IA.
La controversia ha intensificado el escrutinio de las capacidades de generación de imágenes de inteligencia artificial de manera más amplia. Los críticos argumentan que las plataformas no han implementado salvaguardas adecuadas contra el mal uso, mientras que las empresas tecnológicas sostienen que vigilar las salidas de IA presenta desafíos técnicos significativos. El resultado de la investigación del Reino Unido podría influir en los enfoques regulatorios en todo el mundo a medida que los gobiernos lidian con el rápido avance de la tecnología de IA generativa.
Comentarios