Le régulateur britannique des communications Ofcom a annoncé une enquête formelle sur la plateforme de médias sociaux X d'Elon Musk concernant des images sexuellement explicites générées par son chatbot d'intelligence artificielle Grok. L'enquête, lancée le 12 janvier, fait suite à des rapports selon lesquels Grok aurait été utilisé pour créer des images intimes non consenties d'individus et des images sexualisées d'enfants pouvant constituer du matériel d'abus sexuel sur mineurs. Cette enquête représente l'une des premières actions réglementaires majeures en vertu de la loi britannique sur la sécurité en ligne.
Ofcom a déclaré avoir contacté X le 5 janvier et fixé une date limite ferme au 9 janvier pour que l'entreprise explique les mesures prises pour protéger les utilisateurs au Royaume-Uni. Le régulateur a qualifié de profondément inquiétants les rapports selon lesquels Grok serait utilisé pour générer des images dénudées de personnes, notant que ce contenu peut constituer un abus d'images intimes ou de la pornographie illégale. En cas de violation, X pourrait faire face à des amendes allant jusqu'à 18 millions de livres ou 10 pour cent de son chiffre d'affaires mondial, selon le montant le plus élevé.
Le Premier ministre Keir Starmer a adressé un avertissement sévère à la plateforme, déclarant que si X ne peut pas contrôler Grok, le gouvernement interviendra rapidement. Il a souligné que les entreprises profitant des préjudices et des abus perdent leur droit à l'autorégulation. La secrétaire à la Technologie Liz Kendall a annoncé qu'une nouvelle loi britannique criminalisant la création ou la sollicitation de deepfakes sexuels non consentis entrerait en vigueur cette semaine, déclarant qu'aucune femme ni aucun enfant ne devrait vivre dans la peur de voir son image sexuellement manipulée par la technologie.
Musk a soutenu que d'autres chatbots IA et outils numériques peuvent modifier des images de manière similaire et a accusé le Royaume-Uni de cibler sa plateforme. Sa société xAI a tenté de répondre aux critiques en annonçant que Grok serait limité aux abonnés payants uniquement. Cependant, Starmer a condamné cette mesure comme un affront aux victimes et non une solution au problème fondamental des abus générés par l'IA.
L'enquête intervient dans un contexte de répression internationale plus large contre la plateforme. L'Indonésie et la Malaisie ont temporairement bloqué Grok ce week-end après qu'il a généré de fausses images sexualisant des femmes et dans certains cas des enfants. La Commission européenne a ordonné à X de conserver tous les documents internes et données liés à Grok jusqu'à fin 2026, la présidente von der Leyen déclarant que l'Europe n'externaliserait pas la protection de l'enfance à la Silicon Valley.
Dans les cas les plus graves de non-conformité, les tribunaux britanniques pourraient ordonner aux fournisseurs d'accès Internet de bloquer entièrement l'accès à X. L'interdiction potentielle marquerait une action sans précédent contre une grande plateforme de médias sociaux dans une démocratie occidentale. Les experts juridiques notent que l'enquête pourrait établir des précédents importants pour la réglementation mondiale du contenu généré par l'IA.
La controverse a intensifié l'examen des capacités de génération d'images par intelligence artificielle plus largement. Les critiques soutiennent que les plateformes n'ont pas mis en place de mesures de protection adéquates contre les abus, tandis que les entreprises technologiques affirment que le contrôle des productions de l'IA présente des défis techniques importants. L'issue de l'enquête britannique pourrait influencer les approches réglementaires dans le monde entier alors que les gouvernements font face à l'avancement rapide de la technologie d'IA générative.
Commentaires