ब्रिटिश संचार नियामक ऑफकॉम ने एलन मस्क की सोशल मीडिया प्लेटफॉर्म एक्स के खिलाफ इसके आर्टिफिशियल इंटेलिजेंस चैटबॉट ग्रोक द्वारा उत्पन्न यौन रूप से स्पष्ट छवियों पर एक औपचारिक जांच की घोषणा की। 12 जनवरी को शुरू की गई यह जांच उन रिपोर्टों के बाद आई है कि ग्रोक का उपयोग व्यक्तियों की गैर-सहमति वाली अंतरंग छवियां और बच्चों की यौन छवियां बनाने के लिए किया गया है जो बाल यौन शोषण सामग्री हो सकती हैं। यह जांच यूके के ऑनलाइन सुरक्षा अधिनियम के तहत पहली प्रमुख नियामक कार्रवाइयों में से एक है।
ऑफकॉम ने कहा कि उसने 5 जनवरी को एक्स से संपर्क किया और कंपनी को यूके में उपयोगकर्ताओं की सुरक्षा के लिए उठाए गए कदमों को स्पष्ट करने के लिए 9 जनवरी की एक सख्त समय सीमा निर्धारित की। नियामक ने ग्रोक का उपयोग करके लोगों की नग्न छवियां उत्पन्न करने की रिपोर्टों को अत्यंत चिंताजनक बताया और कहा कि ऐसी सामग्री अंतरंग छवि दुरुपयोग या अवैध अश्लीलता हो सकती है। उल्लंघन पाए जाने पर एक्स को 18 मिलियन पाउंड या इसकी वैश्विक आय का 10 प्रतिशत जुर्माना हो सकता है जो भी अधिक हो।
प्रधानमंत्री कीर स्टार्मर ने प्लेटफॉर्म को कड़ी चेतावनी जारी करते हुए कहा कि यदि एक्स ग्रोक को नियंत्रित नहीं कर सकता तो सरकार जल्दी हस्तक्षेप करेगी। उन्होंने जोर देकर कहा कि नुकसान और दुरुपयोग से लाभ उठाने वाली कंपनियां आत्म-नियमन का अधिकार खो देती हैं। प्रौद्योगिकी सचिव लिज़ केंडल ने घोषणा की कि गैर-सहमति वाले यौन डीपफेक बनाने या मांगने को अपराध बनाने वाला एक नया यूके कानून इस सप्ताह लागू होगा और कहा कि किसी भी महिला या बच्चे को अपनी छवि के तकनीक द्वारा यौन रूप से हेरफेर किए जाने के डर में नहीं रहना चाहिए।
मस्क ने तर्क दिया है कि अन्य एआई चैटबॉट और डिजिटल उपकरण समान तरीकों से छवियों को संपादित कर सकते हैं और यूके पर अपने प्लेटफॉर्म को निशाना बनाने का आरोप लगाया। उनकी कंपनी xAI ने यह घोषणा करके आलोचना को संबोधित करने का प्रयास किया कि ग्रोक केवल भुगतान करने वाले ग्राहकों तक सीमित होगा। हालांकि स्टार्मर ने इस कदम की निंदा करते हुए कहा कि यह पीड़ितों के प्रति अपमान है और एआई-जनित दुरुपयोग की मूल समस्या का समाधान नहीं है।
यह जांच प्लेटफॉर्म के खिलाफ व्यापक अंतरराष्ट्रीय कार्रवाई के बीच आई है। इंडोनेशिया और मलेशिया ने सप्ताहांत में ग्रोक को अस्थायी रूप से अवरुद्ध कर दिया जब इसने महिलाओं और कुछ मामलों में बच्चों को यौन रूप दर्शाती नकली छवियां उत्पन्न कीं। यूरोपीय आयोग ने एक्स को 2026 के अंत तक ग्रोक से संबंधित सभी आंतरिक दस्तावेजों और डेटा को बनाए रखने का आदेश दिया है जिसमें आयोग अध्यक्ष वॉन डेर लेयेन ने घोषणा की कि यूरोप बाल संरक्षण को सिलिकॉन वैली को आउटसोर्स नहीं करेगा।
गैर-अनुपालन के सबसे गंभीर मामलों में यूके की अदालतें ब्रिटिश इंटरनेट सेवा प्रदाताओं को एक्स तक पहुंच पूरी तरह से अवरुद्ध करने का आदेश दे सकती हैं। संभावित प्रतिबंध पश्चिमी लोकतंत्र में एक प्रमुख सोशल मीडिया प्लेटफॉर्म के खिलाफ एक अभूतपूर्व कार्रवाई होगी। कानूनी विशेषज्ञों का कहना है कि यह जांच एआई-जनित सामग्री को विश्व स्तर पर कैसे विनियमित किया जाता है इसके लिए महत्वपूर्ण मिसाल कायम कर सकती है।
विवाद ने व्यापक रूप से आर्टिफिशियल इंटेलिजेंस छवि निर्माण क्षमताओं की जांच को तीव्र कर दिया है। आलोचकों का तर्क है कि प्लेटफॉर्म ने दुरुपयोग के खिलाफ पर्याप्त सुरक्षा उपाय लागू नहीं किए हैं जबकि प्रौद्योगिकी कंपनियों का कहना है कि एआई आउटपुट की निगरानी महत्वपूर्ण तकनीकी चुनौतियां प्रस्तुत करती है। यूके की जांच का परिणाम दुनिया भर में नियामक दृष्टिकोणों को प्रभावित कर सकता है क्योंकि सरकारें जेनरेटिव एआई तकनीक की तेजी से प्रगति से जूझ रही हैं।
टिप्पणियाँ