एक संघीय न्यायाधीश ने शुक्रवार को कृत्रिम बुद्धिमत्ता से नकली नग्न चित्र बनाने वाली तकनीक पर मिनेसोटा के प्रतिबंध को रोकने की xAI की आपात मांग खारिज कर दी। इससे अमेरिका में किसी राज्य का अपनी तरह का पहला उपाय 1 अगस्त से लागू हो गया। एलन मस्क की कंपनी संवैधानिक चुनौती जारी रखते हुए कानून का पालन करेगी।
मिनेसोटा का कानून वेबसाइट, ऐप और सॉफ्टवेयर के मालिकों या संचालकों को उपयोगकर्ताओं के लिए ऐसे वास्तविक दिखने वाले बदले हुए चित्र या वीडियो बनाना संभव करने से रोकता है जिनमें पहचाने जा सकने वाले व्यक्ति के अंतरंग अंग दिखाए जाएं। ऐसी सेवा के विज्ञापन और प्रचार पर भी रोक है, हालांकि पर्याप्त व्यक्तिगत मानवीय तकनीकी या कलात्मक कौशल मांगने वाले औजारों को छूट दी गई है।
आधिकारिक कानून राज्य के अटॉर्नी जनरल को हर गैरकानूनी पहुंच, डाउनलोड या इस्तेमाल के लिए 500,000 डॉलर तक का नागरिक जुर्माना मांगने की अनुमति देता है। प्रतिबंधित सामग्री में दिखाया गया व्यक्ति मुआवजे, दंडात्मक हर्जाने, कानूनी खर्च और निषेधाज्ञा के लिए मुकदमा कर सकता है। सरकारी जुर्माने की राशि यौन हमले, घरेलू हिंसा, बाल दुर्व्यवहार और अन्य अपराधों के पीड़ितों की सहायता करने वाले संगठनों को मिलेगी।
xAI ने कानून लागू होने से पहले 38 पृष्ठ की संघीय याचिका दायर करके इसे संरक्षित अभिव्यक्ति पर अत्यधिक व्यापक रोक बताया। एसोसिएटेड प्रेस के अनुसार कंपनी का कहना है कि दुरुपयोग रोकने के लिए सद्भावना से प्रयास करने वाले प्रदाताओं को सुरक्षित छूट नहीं मिलती और कानून सहमति से या स्वयं बनाई गई सामग्री पर भी लागू हो सकता है। कंपनी ने बिना सहमति के सिंथेटिक नग्न चित्र रोकने में मिनेसोटा की दिलचस्पी पर विवाद नहीं किया।
मिनेसोटा के अटॉर्नी जनरल कीथ एलिसन ने कहा कि यह उपाय ऐसी तकनीक का जवाब है जो पीड़ितों की गरिमा छीन सकती है और भावनात्मक, निजी तथा पेशेवर नुकसान पहुंचा सकती है। xAI के अनुसार Grok की शर्तें निजता का उल्लंघन करने वाले चित्र बदलाव समेत गैरकानूनी, हानिकारक या अपमानजनक उपयोग रोकती हैं। कंपनी खाते निलंबित कर सकती है और संदिग्ध बाल यौन शोषण सामग्री की सूचना दे सकती है।
यह आदेश केवल अस्थायी राहत पर है और xAI के संवैधानिक दावों का अंतिम फैसला नहीं है, इसलिए मुकदमा जारी रहेगा। इसका परिणाम तय कर सकता है कि दूसरे अमेरिकी राज्य जनरेटिव चित्र सेवाओं को कैसे नियंत्रित करते हैं और अपमानजनक डीपफेक की जिम्मेदारी मुख्य रूप से उन्हें बनाने वालों पर रहेगी या उन्हें संभव बनाने वाली तकनीकी कंपनियों पर भी।
टिप्पणियाँ