एलन मस्क के सोशल मीडिया प्लेटफॉर्म एक्स पर अश्लील और आपत्तिजनक कंटेंट पर केंद्र सरकार बेहद सख्त हो गई है। नोटिस में इलेक्ट्रॉनिक्स और आईटी मंत्रालय ने ग्रोक एआई के माध्यम से जनरेट किए गए अश्लील कंटेंट को तुरंत हटाने का आदेश दिया है। इसमें यह भी कहा गया कि अगर कंपनी कोई कदम नहीं उठाती है तो उसे कार्रवाई का सामना करना पड़ेगा। मंत्रालय ने कंटेंट के अलावा यूजर्स और अकाउंट के खिलाफ भी एक्शन लेने का निर्देश दिया है। अब देखना यह होगा कि केंद्र सरकार के निर्देशों पर एक्स क्या कदम उठाता है।
इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ने इंफॉर्मेशन टेक्नोलॉजी एक्ट- 2000 और इंफॉर्मेशन टेक्नोलॉजी (इंटरमीडियरी गाइडलाइंस और डिजिटल मीडिया एथिक्स कोड) रूल्स- 2021 के तहत कानूनी ड्यू डिलिजेंस जिम्मेदारियों का पालन न करने पर एक्स कॉर्प के इंडिया चीफ कंप्लायंस ऑफिसर को पत्र लिखा। इसमें एआई से बनाई गई अश्लील, नग्न, अभद्र और सेक्शुअली एक्सप्लिसिट कंटेंट को हटाने व रोकने का निर्देश दिया गया।
यह भी पढ़ें: 'नेपाल की तरह शासकों को सड़कों पर पीटना पड़ेगा', अजय चौटाला का भड़काऊ बयान
अपने आदेश में मंत्रालय ने कहा, 'एक्स को निर्देश दिया जाता है कि लागू कानूनों के उल्लंघन से जुड़े सभी कंटेंट को बिना किसी देरी के हटा दें या एक्सेस डिसेबल कर दें।' इसके अलावा कंपनी को 72 घंटे के भीतर एक्शन टेकेन रिपोर्ट (ATR) जमान करने का निर्देश दिया गया है। आदेश में बताया कि सरकार को जानकारी मिली है कि एक्स पर कुछ कंटेंट शालीनता और अश्लीलता से जुड़े कानूनों के मुताबिक नहीं है। यह आर्टिफिशियल इंटेलिजेंस तकनीक का घोर दुरुपयोग है। यह प्लेटफॉर्म स्तर पर सुरक्षा और इसे लागू करने के तरीक की गंभीर विफलता को दिखाता है।
सरकार ने कहा कि एक्स के ग्रोक एआई का कुछ यूजर्स दुरुपयोग कर रहे हैं। वह इसका महिलाओं की अश्लील तस्वीर और वीडियो को बनाने के अलावा प्रकाशित और शेयर करने में कर रहे हैं, ताकि महिलाओं को गलत तरीके से बदनाम किया जा सके। मंत्रालय ने आगे कहा कि यह मामला सिर्फ फेक अकाउंट बनाने तक ही सीमित नहीं है, बल्कि इसमें उन महिलाओं को भी टारगेट किया जा रहा है, जो प्रॉम्प्ट, इमेज मैनिपुलेशन और सिंथेटिक आउटपुट के माध्यम से अपनी इमेज या वीडियो होस्ट या पब्लिश करती हैं।
यह भी पढ़ें: शराब घोटाले में चैतन्य बघेल को बड़ी राहत, छत्तीसगढ़ हाई कोर्ट ने दी जमानत
एक्स को करनी होगी ग्रोक की समीक्षा
मंत्रालय ने एक्स से अपने ग्रोक एआई की तकनीकी और गवर्नेंस-लेवल की समीक्षा करने का निर्दे दिया है। इसमें ग्रोक की प्रॉम्प्ट-प्रोसेसिंग, आउटपुट जेनरेशन, इमेज हैंडलिंग और सुरक्षा गार्डरेल की समीक्षा करनी होगी, ताकि यह सुनिश्चित किया जा सके कि एप्लिकेशन नग्नता, यौन संबंध या किसी भी गैर-कानूनी कंटेंट को बढ़ावा न दे सके।
सख्त एक्शन की चेतावनी
केंद्र सरकार ने सख्त लहजे में एक्स को कार्रवाई की चेतावनी भी दी। आदेश में कहा गया कि निर्देशों का पालन नहीं करने को गंभीरता से लिया जाएगा। इसके नतीजे में बिना किसी नोटिस के आईटी अधिनियम, आईटी नियम और भारतीय न्याय संहिता व अन्य कानूनों के तहत एक्स, जिम्मेदार अधिकारियों और प्लेटफॉर्म और कानून का उल्लंघन करने वाले यूजर्स के खिलाफ सख्त एक्शन लिया जाएगा।
प्रियंका चतुर्वेदी ने उठाया था मामला
शिवसेना (UBT) की राज्यसभा सांसद प्रियंका चतुर्वेदी ने शुक्रवार को केंद्रीय मंत्री अश्विनी वैष्णव को एक पत्र लिखा था। इसमें उन्होंने एक्स के ग्रोक एआई के दुरुपयोग के मामले में सरकार से दखल देने की मांग की थी। शिवसेना सांसद ने बताया था कि ग्रोक की मदद से महिलाओं की अश्लील तस्वीरें बनाकर सोशल मीडिया पर पोस्ट किया जा रहा था।