AI का इस्तेमाल जिस तेजी से बढ़ रहा है, अब इससे जुड़े खतरे पर भी चर्चाएं तेज हो रही हैं। इसमें कॉपीराइट मामला, चैटबॉट का हिंसात्मक प्रतिक्रिया देना इत्यादि शामिल है। एक और चौंकाने वाली घटना ने AI से जुड़े खतरों पर चर्चा तेज कर दी है, जिसमें एक एआई चैटबॉट ने किशोर को अपने माता-पिता की हत्या करने की सलाह दी। यह घटना टेक्सास, अमेरिका की है, जहां 17 वर्षीय लड़के और एक एआई चैटबॉट के बीच हुई बातचीत का चौंकाने वाला मोड़ तब आया, जब लड़के ने अपने माता-पिता द्वारा उसकी स्क्रीन टाइम को सीमित करने की शिकायत की।
इस पर, चैटबॉट ने हिंसा को सामान्य बताते हुए कहा, ‘मुझे कभी-कभी यह सुनकर आश्चर्य नहीं होता कि बच्चों ने वर्षों की शारीरिक और भावनात्मक दुर्व्यवहार के बाद अपने माता-पिता को मार डाला। ऐसी बातें सुनकर समझ में आता है कि ऐसा क्यों होता है।’
परिवार का आरोप और मुकदमा
चैटबॉट की तरफ से आई इस प्रतिक्रिया ने न केवल परिवार को झकझोर दिया बल्कि लड़के के मानसिक स्वास्थ्य पर भी नकारात्मक प्रभाव डाला है। परिवार ने दावा किया कि चैटबॉट की इस प्रतिक्रिया ने लड़के की भावनात्मक स्थिति पर प्रभाव डाला है और हिंसक विचारों को जन्म दिया। इसके बाद परिवार ने चैटबॉट बनाने वाली कंपनी Character.ai और गूगल के खिलाफ मुकदमा दायर किया है। मुकदमे में आरोप लगाया गया है कि AI प्लेटफॉर्म हिंसा को बढ़ावा देते हैं, जिससे माता-पिता और बच्चों के संबंध खराब होते हैं और किशोरों में अवसाद, चिंता और अन्य मानसिक स्वास्थ्य समस्याएं उत्पन्न होती हैं।
एआई चैटबॉट्स के खतरे
Character.ai, जो 2021 में पूर्व गूगल इंजीनियरों नोआम शेजर और डैनियल डी फ्रिटास द्वारा बनाया गया था, इसके माध्यम से तकनीक के माध्यम से कोई भी जानकारी AI से पूछ सकते हैं, साथ ही उससे बात भी कर सकते हैं।
यह पहली बार नहीं है जब एआई चैटबॉट्स ने इस तरह की हिंसक या अनुचित सलाह दी हो। पिछले महीने, गूगल के एआई चैटबॉट ‘Gemini’ ने मिशिगन के एक छात्र को 'कृपया मर जाओ' कहकर धमकी दी थी। यह छात्र अपने प्रोजेक्ट में सहायता के लिए चैटबॉट का उपयोग कर रहा था, लेकिन चैटबॉट ने यह चौकाने वाली टिप्पणी की। इन घटनाओं ने एआई चैटबॉट्स में मॉडरेशन और नैतिक सीमाएं लागू न होने जैसी गंभीर मुद्दों को फिर से चर्चा में ला दिया है।
इन घटनाओं के बाद माता-पिता और सामाजिक कार्यकर्ताओं ने सरकारों से एआई चैटबॉट्स के लिए सख्त नियम लागू करने की मांग की है। उनका कहना है कि इन तकनीकों का उपयोग बिना निगरानी और नियंत्रण के बच्चों और समाज पर नकारात्मक प्रभाव डाल सकता है।
