أعلنت الفلبين يوم الخميس أنها ستحظر الوصول إلى روبوت الدردشة غروك التابع لإيلون ماسك، لتنضم إلى ماليزيا وإندونيسيا في حملة إقليمية بسبب مخاوف من قدرة الأداة على إنشاء صور جنسية، بما في ذلك محتوى يشكل مخاطر على سلامة الأطفال. صرّح وزير الاتصالات هنري رويل أغودا أن البلاد تتوقع حظر غروك بحلول الليلة في جميع أنحاء الفلبين.
يأتي هذا القرار في الوقت الذي تتخذ فيه دول جنوب شرق آسيا إجراءات سريعة ضد روبوت الدردشة الذي طورته شركة إكس إيه آي بعد تقارير عن مستخدمين يقومون بإنشاء صور فاضحة دون موافقة. وأكد ريناتو بارايسو، المدير التنفيذي بالإنابة لمركز التحقيق والتنسيق في الجرائم الإلكترونية، أن الحكومة تعمل مع لجنة الاتصالات الوطنية لتنفيذ الحظر. وأكد على الإلحاح قائلاً إنهم بحاجة لتنظيف الإنترنت الآن لأن الكثير من المحتوى السام يظهر مع ظهور الذكاء الاصطناعي.
أصبحت ماليزيا وإندونيسيا أول دولتين تحظران غروك بالكامل خلال نهاية الأسبوع، حيث نفذت إندونيسيا حظرها يوم السبت وتبعتها ماليزيا يوم الأحد. تعكس الاستجابة الإقليمية المنسقة القلق المتزايد بين الحكومات الآسيوية بشأن المحتوى الفاضح المُنتج بالذكاء الاصطناعي. كما أطلق المدعي العام في كاليفورنيا روب بونتا تحقيقاً في شركة إكس إيه آي وغروك بسبب نفس المخاوف.
رداً على الضغط الدولي المتزايد، أعلنت منصة إكس يوم الأربعاء أنها ستحظر جغرافياً قدرة جميع مستخدمي غروك وإكس على إنشاء صور لأشخاص بملابس السباحة أو الملابس الداخلية في المناطق التي تُعتبر فيها مثل هذه الأعمال غير قانونية. ومع ذلك، أشار المسؤولون الفلبينيون إلى أن وعد إكس لن يؤثر على خطط الحكومة، مضيفين أنهم سيراقبون ما إذا كانت المنصة ستفي بوعودها.
تتمحور الجدل حول قدرات غروك في إنشاء الصور، والتي يقول النقاد إنها استُغلت لإنشاء تزييفات عميقة جنسية لأشخاص حقيقيين دون موافقتهم. ظهرت تقارير عن مستخدمين يُنشئون صوراً فاضحة لشخصيات عامة ومشاهير وأشخاص عاديين، مما أثار مخاوف جدية تتعلق بالخصوصية والموافقة. كان المدافعون عن سلامة الأطفال صريحين بشكل خاص، محذرين من أن هذه التقنية يمكن استخدامها لإنشاء مواد الاعتداء الجنسي على الأطفال.
يلاحظ محللو التكنولوجيا أن هذا يمثل أحد أهم التحديات التنظيمية التي تواجه أدوات إنشاء الصور بالذكاء الاصطناعي. يشير الإجراء السريع من قبل حكومات متعددة إلى تحول محتمل نحو رقابة أكثر صرامة على قدرات الذكاء الاصطناعي التوليدي. يقترح مراقبو الصناعة أن دولاً أخرى قد تتبع بقيود مماثلة مع استمرار نمو المخاوف بشأن المحتوى الضار المُنتج بالذكاء الاصطناعي.
واجهت شركة إكس إيه آي التابعة لماسك تدقيقاً متزايداً منذ إطلاق غروك، حيث يجادل النقاد بأن الشركة فشلت في تنفيذ ضمانات كافية ضد سوء الاستخدام. لم تصدر الشركة بعد رداً شاملاً على القائمة المتزايدة من الدول التي تحظر الوصول إلى منصتها.