दुनिया के लिए खतरा बनने लगा AI? Fable और Mythos पर लगे बैन से समझिए पूरा खेल

आर्टिफिशियल इंटेलिजेंस की दुनिया में हर दिन विकास हो रहा है। नए-नए टूल्स आ रहे हैं और कई काम AI के सहारे ही हो जा रहे हैं। समय के साथ बढ़ते AI के खतरे भी बढ़ते जा रहे हैं। इसी को ध्यान में रखते हुए अमेरिका ने एक ऐसा एलान किया है जिसकी चर्चा पूरा दुनिया में हो रही है। कुछ दिन पहले ही मशहूर कंपनी एंथ्रोपिक ने दो नए AI मॉडल Mythos 5 और और Fable 5 ल़ॉन्च किए थे। हफ्ते भर में ही अमेरिका ने कहा है कि कोई भी दूसरा देश इसका इस्तेमाल नहीं कर सकता है। अमेरिकी सरकार का मानना है कि इस टूल का गलत इस्तेमाल हो सकता है और इसके जरिए अमेरिका की सुरक्षा के लिए खतरा पैदा किया जा सकता है।

 

एंथ्रोपिक ने अपने आधिकारिक बयान में कहा है कि अमेरिकी सरकार ने राष्ट्रीय सुरक्षा का हवाला देते हुए निर्देश दिए हैं कि Fable 5 और Mythos 5 का ऐक्सेस किसी भी दूसरे देश को ना दिया जाए। यह भी साफ किया गया है कि इसका ऐक्सेस अमेरिका में रहने वाले विदेशी नागरिकों और यहां तक एंथ्रोपिक के किसी ऐसे कर्मचारी को भी न दिया जाए जो दूसरे देश का निवासी हो। एंथ्रोपिक के मुताबिक, इस आदेश का पालन करने के लिए ही Fable 5 और Mythos 5 को सभी ग्राहकों के लिए डिसेबल किया जा रहा है। हालांकि, Claude के अन्य मॉडल पहले की तरह काम करते रहेंगे।

क्या हैं Fable 5 और Mythos 5?

अगर आप आर्टिफिशियल इंटेलिजेंस के टूल्स का इस्तेमाल करते हैं तो Claude को तो जानते ही होंगे। नहीं जानते तो इतना समझिए कि एक यह एक टूल है जिसकी मदद से आप रिसर्च और राइटिंग जैसे तमाम काम कर सकते हैं। अब यह टूल अलग-अलग मॉडल्स पर काम करता है। आमतौर पर आप Sonnet, Opus या Haiku मॉडल के अलग-अलग वर्जन का इस्तेमाल करते हैं। हो सकता है कि चैट करके नतीजे पाने की जल्दबाजी में आपने ध्यान न दिया हो लेकिन सारे AI टूल इसी तरह के अलग-अलग मॉडल पर काम करते हैं।

 

यह भी पढ़ें: एंथ्रोपिक को क्यों बंद करने पड़े फैबल 5 और मिथोस 5 AI मॉडल? इनसाइड स्टोरी

https://twitter.com/AnthropicAI/status/2065597531644743999

नए फीचर के साथ नए-नए मॉडल समय-समय पर लॉन्च किए जाते हैं। इसी क्रम में एंथ्रोपिक ने Fable 5 और Mythos 5 को लॉन्च किया था। लॉन्च के हफ्ते भर में ही इन मॉडल्स पर रोक लगने की वजह से ये पूरी दुनिया में चर्चा में आ गए हैं। Mythos तो शुरू से ही विवादों में है और दुनिया की तमाम सरकारें इसको लेकर डरी हुई हैं। ऐसे में अब दो टूल्स पर खास तरह के प्रतिबंधों की वजह से नए तरह की चर्चा शुरू हो गई है।

 

जेलब्रेक क्या है?

इस पूरे विवाद को समझने के लिए जेलब्रेक को समझना जरूरी है। पूरे मामले में यह शब्द कई बार इस्तेमाल होगा इसलिए इसे भी से समझ लीजिए। सॉफ्टवेयर की दुनिया में सबसे अहम चीज है सुरक्षा। उदाहरण के लिए, अगर कोई सॉफ्टवेयर बनाया गया है तो इतना होना चाहिए कि वह जिस काम के लिए है, उतना ही काम करे और उसका कोई दुरुपयोग न हो। Mythos के आने के बाद से सबसे बड़ा खतरा इसी सुरक्षा को हुआ है। जो कमी सॉफ्टवेयर इंजीनियर सालों में नहीं खोज पा रहे थे, उसे यह चंद मिनट में खोजता है। कई बार यह कमी ऐसी होती है जिससे उस सॉफ्टवेयर को हैक किया जा सकता है।

 

सॉफ्टवेयर बनाने में कुछ नियम तय किए जाते हैं। सुरक्षा के लिए कुछ शर्तें तय होती हैं और कुछ प्रतिबंध लगाए जाते हैं। ये सारे काम सॉफ्टवेयर डेवलपर या उस सॉफ्टवेयर को बनाने वाली कंपनी करती है। इसीलिए सॉफ्टवेयर की अंदरूनी जानकारी छिपाकर रखी जाती है। अब अगर कोई इन्हीं नियमों, प्रतिबंधों और शर्तों को तोड़ दे और आराम से उसे हैक कर ले तो इसे 'जेलब्रेक' कहा जाता है। उदाहरण के लिए- आप सामान्य यूजर हैं लेकिन आप किसी वेबसाइट का एडमिन बने ही उसे ऐक्सेस कर पाएं तो इसे जेलब्रेक कहा जाएगा।

 

यह भी पढ़ें: एंथ्रोपिक और पेंटागन के बीच क्यों छिड़ा विवाद, सैम ऑल्टमैन ने कैसे मारी बाजी?

Fable 5 और Mythos 5 के खतरे क्या हैं?

अमेरिकी सरकार का मानना है कि ये टूल्स जेलब्रेक को आसान बना देंगे तो और आम यूजर्स भी किसी भी वेबसाइट, सर्वर या टूल को आसानी से हैक कर सकेंगे। हालांकि, एंथ्रोपिक ने इस पर अपना विरोध जताते हुए कहा है कि अगर इसमें कुछ कमियां हैं तो दूर किया जा सकता है लेकिन इस तरह से बैन करना सही नहीं है।

 

दूसरी तरफ, खुद एंथ्रोपिक का दावा है कि ये दोनों मॉडल सबसे अडवांस और नेक्स्ट जेनरेशन एआई मॉडल हैं। ये दोनों लंबे टाइम तक एक साथ काम करने में सक्षम हैं और मौजूदा Opus मॉडल की तुलना में कई गुना अडवांस हैं।

 

इन दोनों मॉडल की खूबी यही है कि ये अपने आप सोचकर भी काम कर सकते हैं। यही इनकी मजबूती है और यही इनसे खतरे का कारण भी बताया जा रहा है। Fable 5 लंबे समय तक डेटा अनैलटिक्स और भारी भरकम सॉफ्टरेवयर इंजीनियरिंग प्रोजेक्ट को अकेले संभाल सकता है और इसके लिए किसी इंसान की भी जरूरत नहीं पड़ती। इसी तरह Mythos 5 सॉफ्टवेर की खामियां खोजने में माहिर है और यह काम वह बिना किसी इंसानी मदद के ही कर सकता है। अब खतरा यही है कि कहीं ये दोनों टूल ऐसी चीजें ना खोज निकालें जिन्हें ठीक करना ही संभव न हो।

खतरों से डर गया अमेरिका!

इसी खतरे को देखते हुए इसे पब्लिक के लिए रिलीज ही नहीं किया गया। अब 12 जून को अमेरिकी सरकार ने दोनों मॉडल पर प्रतिबंध लगाकर इसके खतरे के प्रति सबको आगाह किया है। एंथ्रोपिक ने कहा है कि एक अमेरिकी अधिकारी ने एक छोटी 'जेलब्रेक' टेक्नीक खोज निकाली जो कि Fable 5 के सेफगार्ड्स को तोड़ सकती है। अगर ऐसा हो जाए तो इस मॉडल को हैक किया जा सकता है और इसका गलत इस्तेमाल किया जा सकता है।

 

वॉल स्ट्रीट जर्नल की एक रिपोर्ट के मुताबिक, Amazon के रिसर्चर्स ने भी इन मॉडल्स पर काम किया और पाया कि  इनका इस्तेमाल करके किसी सॉफ्टवेयर की सुरक्षा से जुड़े सीक्रेट को भी उजागर कराया जा सकता है। Amazon ने यही रिपोर्ट अमेरिका के डिपार्टमेंट ऑफ कॉमर्स के साथ शेयर की थी। इस पर एंथ्रोपिक का कहना है कि यह समस्या इतनी बड़ी नहीं है और इसे ठीक भी किया जा सकता है। हालांकि, अमेरिकी सरकार ने उसकी बातों को नहीं माना है और इसे नेशनल सिक्योरिटी को खतरा बताते हुए खारिज कर दिया।