Les Philippines ont annoncé jeudi qu'elles bloqueront l'accès au chatbot d'IA Grok d'Elon Musk, rejoignant la Malaisie et l'Indonésie dans une répression régionale suite aux préoccupations concernant la capacité de l'outil à générer des images sexualisées, y compris du contenu posant des risques pour la sécurité des enfants. Le secrétaire aux Télécommunications Henry Rhoel Aguda a déclaré que le pays prévoit de bloquer Grok ce soir dans l'ensemble des Philippines.
Cette décision intervient alors que les nations d'Asie du Sud-Est prennent des mesures rapides contre le chatbot développé par xAI suite à des rapports d'utilisateurs créant des images explicites non consenties. Renato Paraiso, directeur exécutif par intérim du Centre d'investigation et de coordination de la cybercriminalité, a confirmé que le gouvernement travaille avec la Commission nationale des télécommunications pour mettre en œuvre l'interdiction. Il a souligné l'urgence, déclarant qu'il faut nettoyer Internet maintenant car beaucoup de contenu toxique apparaît avec l'avènement de l'IA.
La Malaisie et l'Indonésie sont devenues les premiers pays à bloquer entièrement Grok ce week-end, l'Indonésie ayant mis en place son interdiction samedi et la Malaisie suivant dimanche. La réponse régionale coordonnée reflète l'inquiétude croissante des gouvernements asiatiques concernant le contenu explicite généré par l'IA. Le procureur général de Californie, Rob Bonta, a également lancé une enquête sur xAI et Grok pour les mêmes préoccupations.
En réponse à la pression internationale croissante, X a annoncé mercredi qu'il géobloquerait la capacité de tous les utilisateurs de Grok et X à créer des images de personnes en bikini, sous-vêtements et tenues similaires dans les juridictions où de telles actions sont jugées illégales. Cependant, les responsables philippins ont indiqué que la promesse de X n'aurait aucun effet sur les plans du gouvernement, ajoutant qu'ils observeraient si la plateforme tient ses promesses.
La controverse porte sur les capacités de génération d'images de Grok, qui, selon les critiques, ont été exploitées pour créer des deepfakes sexualisés de personnes réelles sans leur consentement. Des rapports ont émergé d'utilisateurs générant des images explicites de personnalités publiques, de célébrités et de personnes ordinaires, soulevant de sérieuses préoccupations en matière de vie privée et de consentement. Les défenseurs de la sécurité des enfants ont été particulièrement vocaux, avertissant qu'une telle technologie pourrait être utilisée pour créer du matériel d'abus sexuels sur enfants.
Les analystes technologiques notent que cela représente l'un des défis réglementaires les plus importants auxquels sont confrontés les outils de génération d'images par IA. L'action rapide de plusieurs gouvernements signale un potentiel changement vers une surveillance plus stricte des capacités d'IA générative. Les observateurs de l'industrie suggèrent que d'autres pays pourraient suivre avec des restrictions similaires alors que les préoccupations concernant le contenu nocif généré par l'IA continuent de croître.
L'entreprise xAI de Musk a fait face à une surveillance accrue depuis le lancement de Grok, les critiques affirmant que l'entreprise n'a pas mis en place de mesures de protection adéquates contre les abus. L'entreprise n'a pas encore émis de réponse complète à la liste croissante de pays bloquant l'accès à sa plateforme.