फिलीपींस ने गुरुवार को घोषणा की कि वह एलन मस्क के एआई चैटबॉट ग्रोक तक पहुंच को अवरुद्ध करेगा, इस चिंता पर क्षेत्रीय कार्रवाई में मलेशिया और इंडोनेशिया के साथ शामिल होते हुए कि यह टूल यौन छवियां उत्पन्न कर सकता है, जिसमें बाल सुरक्षा जोखिम पैदा करने वाली सामग्री शामिल है। दूरसंचार सचिव हेनरी रोएल अगुडा ने कहा कि देश आज रात तक पूरे फिलीपींस में ग्रोक को ब्लॉक करने की उम्मीद करता है।
यह निर्णय तब आया है जब दक्षिण पूर्व एशियाई राष्ट्र xAI द्वारा विकसित चैटबॉट के खिलाफ तेजी से कार्रवाई कर रहे हैं, उन उपयोगकर्ताओं की रिपोर्ट के बाद जो बिना सहमति के अश्लील छवियां बना रहे हैं। साइबर अपराध जांच और समन्वय केंद्र के कार्यवाहक कार्यकारी निदेशक रेनाटो पारायसो ने पुष्टि की कि सरकार प्रतिबंध लागू करने के लिए राष्ट्रीय दूरसंचार आयोग के साथ काम कर रही है। उन्होंने तात्कालिकता पर जोर दिया, यह कहते हुए कि उन्हें अभी इंटरनेट को साफ करने की जरूरत है क्योंकि एआई के आगमन के साथ बहुत विषाक्त सामग्री सामने आ रही है।
मलेशिया और इंडोनेशिया सप्ताहांत में ग्रोक को पूरी तरह से ब्लॉक करने वाले पहले देश बने, इंडोनेशिया ने शनिवार को और मलेशिया ने रविवार को अपना प्रतिबंध लागू किया। समन्वित क्षेत्रीय प्रतिक्रिया एआई-जनित अश्लील सामग्री के बारे में एशियाई सरकारों के बीच बढ़ती चिंता को दर्शाती है। कैलिफोर्निया के अटॉर्नी जनरल रॉब बोंटा ने भी समान चिंताओं पर xAI और ग्रोक में जांच शुरू की है।
बढ़ते अंतरराष्ट्रीय दबाव के जवाब में, X ने बुधवार को घोषणा की कि वह उन क्षेत्रों में जहां ऐसी कार्रवाई अवैध मानी जाती है, सभी ग्रोक और X उपयोगकर्ताओं की बिकनी, अंडरवियर और समान पोशाक में लोगों की छवियां बनाने की क्षमता को जियोब्लॉक करेगा। हालांकि, फिलीपीन अधिकारियों ने संकेत दिया कि X के वादे का सरकार की योजनाओं पर कोई प्रभाव नहीं होगा, यह जोड़ते हुए कि वे देखेंगे कि प्लेटफॉर्म अपने वादे पूरे करता है या नहीं।
विवाद ग्रोक की छवि निर्माण क्षमताओं पर केंद्रित है, जिसके बारे में आलोचकों का कहना है कि बिना सहमति के वास्तविक व्यक्तियों के यौन डीपफेक बनाने के लिए इसका दुरुपयोग किया गया है। सार्वजनिक हस्तियों, मशहूर हस्तियों और आम लोगों की अश्लील छवियां उत्पन्न करने वाले उपयोगकर्ताओं की रिपोर्ट सामने आई, जिससे गोपनीयता और सहमति संबंधी गंभीर चिंताएं उठीं। बाल सुरक्षा समर्थक विशेष रूप से मुखर रहे हैं, चेतावनी देते हुए कि ऐसी तकनीक का उपयोग बाल यौन शोषण सामग्री बनाने के लिए किया जा सकता है।
प्रौद्योगिकी विश्लेषकों का कहना है कि यह एआई छवि निर्माण उपकरणों के सामने सबसे महत्वपूर्ण नियामक चुनौतियों में से एक है। कई सरकारों द्वारा त्वरित कार्रवाई जनरेटिव एआई क्षमताओं की सख्त निगरानी की ओर संभावित बदलाव का संकेत देती है। उद्योग पर्यवेक्षकों का सुझाव है कि अन्य देश भी इसी तरह के प्रतिबंधों का पालन कर सकते हैं क्योंकि एआई-जनित हानिकारक सामग्री के बारे में चिंताएं बढ़ती जा रही हैं।
मस्क की xAI को ग्रोक के लॉन्च के बाद से बढ़ती जांच का सामना करना पड़ा है, आलोचकों का तर्क है कि कंपनी दुरुपयोग के खिलाफ पर्याप्त सुरक्षा उपाय लागू करने में विफल रही। कंपनी ने अभी तक अपने प्लेटफॉर्म तक पहुंच को अवरुद्ध करने वाले देशों की बढ़ती सूची पर व्यापक प्रतिक्रिया जारी नहीं की है।