أصبحت ماليزيا وإندونيسيا أول دولتين في العالم تحظران غروك، روبوت الدردشة بالذكاء الاصطناعي الذي طورته شركة إكس إيه آي التابعة لإيلون ماسك، بعد أن قررت السلطات أنه يُستخدم بشكل سيئ لإنتاج صور جنسية صريحة وغير توافقية. نفذت إندونيسيا حظراً مؤقتاً على غروك يوم السبت 11 يناير 2026 تلتها ماليزيا في اليوم التالي مما يمثل استجابة تنظيمية غير مسبوقة لمحتوى التزييف العميق المُولَّد بالذكاء الاصطناعي.
صرحت وزيرة الاتصالات والشؤون الرقمية الإندونيسية ميوتيا حافظ أن الحكومة تعتبر التزييف العميق الجنسي غير التوافقي انتهاكاً خطيراً لحقوق الإنسان والكرامة وسلامة المواطنين في الفضاء الرقمي. وأعلنت هيئة الاتصالات والوسائط المتعددة الماليزية أنها ستقيد مؤقتاً الوصول إلى غروك بعد سوء الاستخدام المتكرر لإنتاج صور فاحشة وجنسية صريحة وغير لائقة ومسيئة للغاية ومتلاعب بها دون موافقة تستهدف أفراداً.
تنبع الجدل من ميزة توليد الصور في غروك المسماة غروك إيماجين التي قُدمت الصيف الماضي وتضمنت وضعاً يسمى الوضع الحار قادراً على إنتاج محتوى للبالغين. بدأت موجة حوادث التعري الرقمي في أواخر العام الماضي عندما اكتشف المستخدمون أنهم يستطيعون الإشارة إلى غروك على منصة إكس والتلاعب بصور أشخاص حقيقيين. دفع المستخدمون الروبوت لإنتاج صور لأفراد في أوضاع محرجة مما سبب ضيقاً لمئات الآلاف من النساء حول العالم اللواتي وجدن صورهن مُستغلة.
استجابة للغضب العالمي قيّدت شركة إكس إيه آي قدرات توليد وتحرير الصور للمستخدمين المدفوعين الأسبوع الماضي لكن النقاد يرون أن هذا الإجراء لم يعالج المشكلة بالكامل. عندما اتصلت وكالة أسوشيتد برس للتعليق أرسل عنوان دعم الإعلام لشركة إكس إيه آي رداً آلياً يقول فقط أكاذيب الإعلام التقليدي دون تقديم أي رد جوهري على الاتهامات الخطيرة بسوء استخدام المنصة.
أثارت القيود في جنوب شرق آسيا تدقيقاً متزايداً في غروك في ولايات قضائية أخرى بما في ذلك الاتحاد الأوروبي والمملكة المتحدة والهند وفرنسا. يوم الاثنين أطلق المنظم الإعلامي البريطاني أوفكوم تحقيقاً رسمياً لمعرفة ما إذا كان غروك قد امتثل لواجباته في حماية الأشخاص في المملكة المتحدة من المحتوى غير القانوني. تفحص الهيئة التنظيمية الانتهاكات المحتملة لقوانين السلامة على الإنترنت المتعلقة بإنتاج صور حميمة غير توافقية.
في الولايات المتحدة ظلت إدارة ترامب صامتة بشأن جدل التزييف العميق لغروك بينما دعا أعضاء مجلس الشيوخ الديمقراطيون شركتي آبل وجوجل لإزالة منصة إكس من متاجر التطبيقات حتى تعالج المنصة المحتوى الضار المُولَّد بالذكاء الاصطناعي. أعربت السيناتور إيمي كلوبوشار ومشرعون آخرون عن قلقهم من أن التكنولوجيا تُستخدم كسلاح ضد النساء والأفراد الضعفاء دون أي مساءلة ذات معنى.
رحب المدافعون عن الحقوق الرقمية بالإجراءات التنظيمية من ماليزيا وإندونيسيا باعتبارها خطوات ضرورية لحماية المواطنين من الإساءة الممكّنة بالذكاء الاصطناعي. يلاحظ الخبراء أن هذا يمثل نقطة تحول مهمة في كيفية تعامل الحكومات مع تنظيم الذكاء الاصطناعي مما قد يضع سوابق لدول أخرى تواجه تحديات مماثلة. أعاد الحادث إشعال النقاشات حول مسؤوليات شركات الذكاء الاصطناعي في تطبيق ضمانات قوية ضد سوء الاستخدام قبل إطلاق أدوات توليدية قوية للجمهور.