सोशल मीडिया पर कुछ न कुछ ट्रेंड चलता ही रहता है। अब एक नया ट्रेंड X पर चल रहा है। इसमें यूजर्स Grok से तस्वीरों से कुछ न कुछ हटाने के लिए कह रहे हैं। यूजर्स लिख रहे हैं 'Hey@Grok Remove this person' और वह उस व्यक्ति को हटा दे रहा है। दो-तीन से यह ट्रेंड काफी चल रहा है। हालांकि, इसी बीच कुछ लोग महिलाओं के लिए भी इसका गलत इस्तेमाल कर रहे हैं और उनके कपड़े हटाने को कह रहे हैं। Grok महिलाओं के कपड़े पूरी तरह तो नहीं हटा रहा लेकिन कम जरूर कर दे रहा है।
Grok में कुछ दिन से जो कुछ हो रहा है, उसे लेकर अब केंद्र सरकार ने X को नोटिस भेजा है और अश्लील कंटेंट हटाने को कहा है। इसे लेकर सरकार ने X से 72 घंटों के भीतर रिपोर्ट भी मांगी है।
बहरहाल, 'Remove This...' वाला ट्रेंड सिर्फ भारत ही नहीं, बल्कि दुनियाभर में चल रहा है। X पर तमाम यूजर्स नेताओं की फोटो डाल रहे हैं और उसमें से किसी एक को हटाने को कह रहे हैं। यूजर्स Grok को टैग करके कह रहे हैं- 'Hey Grok, remove this person/club/thing from the picture' या 'remove the corrupt/uneducated/war criminal' जैसे कीवर्ड्स लिखकर तस्वीरें एडिट कर रहे हैं।
यह भी पढ़ें-- 24 नहीं, 25 घंटे का हो जाएगा पृथ्वी पर एक दिन! वैज्ञानिकों का क्या है अनुमान?
ये सिस्टम काम कैसे कर रहा है?
- पोस्ट करना: यूजर X पर इमेज अपलोड करता है और @grok टैग करके प्रॉम्प्ट देता है। प्रॉम्प्ट सिंपल होना चाहिए, जैसे 'remove this emoji' या 'remove this person'।
- Grok का डिटेक्शन: Grok AI X प्लेटफॉर्म से इंटीग्रेटेड है। जब कोई @grok टैग करता है, AI पोस्ट को स्कैन करता है। ये X के API या इंटर्नल सिस्टम से काम करता है और AI पोस्ट को 'मेंशन' के रूप में देखता है।
- प्रोसेसिंग: AI इमेज को एनालाइज करता है और यूजर के टेक्स्ट प्रॉम्प्ट के बेस पर एडिट करता है। ये Flux AI (xAI का इमेज जनरेशन मॉडल) या इसी तरह के टूल्स यूज करता है, जो इमेज से ऑब्जेक्ट्स रिमूव कर सकता है और नई इमेज जनरेट करता है।
- रिस्पॉन्स: Grok एक नया पोस्ट रिस्पॉन्स में डालता है, जिसमें एडिटेड इमेज होती है। अगर प्रॉम्प्ट NSFW (नॉट सेफ फॉर वर्क) या अनएथिकल लगे, तो AI रिजेक्ट कर सकता है या वार्निंग दे सकता है, लेकिन रियल में कुछ केसेज में ये हो रहा है।
यह भी पढ़ें-- OpenAI वाले सैम ऑल्टमैन तक परेशान हो गए, आखिर ऐसा क्या कर रहे AI Agents?
कैसे पहचानता है कि किसे रिमूव करना है?
- इमेज रिकग्निशन: Grok कंप्यूटर विजन टेक्नोलॉजी यूज करता है जैसे- न्यूरल नेटवर्क। जो इमेज को ब्रेकडाउन करता है। जैसे- ऑब्जेक्ट्स, कलर्स, शेप्स पहचानता है। उदाहरण के लिए, अगर इमेज में एक शर्ट है, AI उसे 'शर्ट' के रूप में क्लासिफाई करता है।
- टेक्स्ट प्रॉम्प्ट: यूजर का मैसेज पढ़ता है। 'remove this shirt' में 'this' से कन्टेक्स्ट लेता है। अगर इमेज में पॉइंटिंग ऐरो या क्लियर है, तो आसान। अगर अस्पष्ट है, तो AI गेस करता है या पूछ सकता है।
- कन्टेक्स्ट एनालिसिस: AI पूरे पोस्ट को देखता है- इमेज + टेक्स्ट। ये मशीन लर्निंग मॉडल्स पर ट्रेन्ड है लाखों इमेजेस पर, इसलिए 90% से ज्यादा एक्यूरेसी से काम करता है। लेकिन अगर इमेज ब्लर है या प्रॉम्प्ट कन्फ्यूजिंग, तो रिजल्ट गलत आ सकता है।
यह भी पढ़ें-- बच्चों को कैसे बीमार कर रहा है सोशल मीडिया? ऑस्ट्रेलिया जैसा कानून इसलिए जरूरी
इस ट्रेंड पर क्यों जताई जा रही चिंता?
अब हो ये रहा है कि कुछ यूजर्स इसका गलत इस्तेमाल कर रहे हैं। Grok को टैग करके महिलाओं की तस्वीरों को आपत्तिजनक तरीके से एडिट करने को कह रहे हैं।
उदाहरण के लिए कुछ लोग 'Hi Grok remove this clothes' जैसी प्रॉम्प्ट के साथ किसी महिला की फोटो डाल रहे हैं। हालांकि, Grok पूरी तरह से तो कपड़े नहीं उतार रहा है लेकिन आपत्तिजनक तो कर ही दे रहा है।
इसे लेकर ही चिंता जताई जा रही है। शिवसेना (यूबीटी) सांसद प्रियंका चतुर्वेदी ने सरकार को चिट्ठी लिखी थी। इसमें उन्होंने कहा था कि कुछ लोग AI का गलत इस्तेमाल करके महिलाओं की आपत्तिजनक तस्वीरें बना रहे हैं, जो चिंता का विषय है। उन्होंने इस मामले में सरकार से कार्रवाई करने की मांग की थी। इसके बाद सरकार ने भी X को चिट्ठी लिखी है।
