AI कंपनियों की होड़ 'मानव जीवन के लिए खतरा', एंथ्रोपिक के रिसर्चर ने इस्तीफ़ा देकर जताई चिंता

आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में एक युवा रिसर्चर के इस्तीफ़े ने इस तकनीक के भविष्य और सुरक्षा को लेकर गंभीर बहस छेड़ दी है। AI कंपनी एंथ्रोपिक के शोधकर्ता जैकब कॉक्सन ने चेतावनी दी है कि कंपनियां एक ऐसी 'सुपरइंटेलिजेंस' बनाने की होड़ में हैं, जो आने वाले कुछ सालों में मानवता के लिए बड़ा खतरा बन सकती है। इसी चिंता के चलते उन्होंने अपने पद से इस्तीफ़ा दे दिया है।

समाचार एजेंसी IANS के हवाले से वॉल स्ट्रीट जर्नल ने यह खबर सबसे पहले दी। यह एंथ्रोपिक में AI सुरक्षा से जुड़ी चिंताओं के कारण किसी कर्मचारी के कंपनी छोड़ने के पहले बड़े मामलों में से एक है। कॉक्सन, जो नए AI मॉडल को बड़े पैमाने पर डेटा पर प्रशिक्षित करने में माहिर हैं, ने सोशल मीडिया प्लेटफॉर्म 'एक्स' पर एक थ्रेड में अपनी चिंताएं जाहिर कीं। उन्होंने बताया, "मैंने पिछले तीन साल ओपनएआई और एंथ्रोपिक दोनों में प्री-ट्रेनिंग रिसर्च में बिताए हैं।"

खुद को बेहतर बनाने वाले AI का जोखिम

कॉक्सन ने चेताया कि AI कंपनियां तेजी से ऐसे सिस्टम बनाने की तरफ बढ़ रही हैं जो खुद को बेहतर बनाने में सक्षम होंगे। उन्होंने लिखा, "कंपनियां सेल्फ-इंप्रूविंग सुपरइंटेलिजेंस विकसित करने की दिशा में तेजी से आगे बढ़ रही हैं और इस प्रक्रिया में मानव जीवन को जोखिम में डाल रही हैं।" उनके मुताबिक, यह तकनीक इंसानों से बेहतर प्रदर्शन करने, साइबर सिस्टम में सेंध लगाने और असल दुनिया में शक्ति और संसाधन हासिल करने में सक्षम हो सकती है।

इंडस्ट्री के अंदर की चिंताएं

जैकब कॉक्सन ने एक चौंकाने वाला दावा भी किया। उन्होंने कहा कि AI विकसित करने वाले कई शोधकर्ता और वरिष्ठ अधिकारी निजी तौर पर यह मानते हैं कि यह तकनीक इस दशक के अंत तक मानवता के अस्तित्व के लिए खतरा बन सकती है। कॉक्सन ने कहा, "यह कोई मार्केटिंग रणनीति नहीं है। सार्वजनिक मंचों पर कई अधिकारी भले ही संतुलित भाषा का इस्तेमाल करते हों, लेकिन निजी बातचीत में वे तकनीक के संभावित परिणामों को लेकर गंभीर चिंता व्यक्त करते हैं।"

उन्होंने इस विरोधाभास पर भी सवाल उठाया कि अगर AI के खतरे को लेकर इतनी चिंता है, तो कंपनियां इसका विकास क्यों जारी रखे हुए हैं। कॉक्सन के अनुसार, ओपनएआई में कई लोग अभी भी इस तकनीक के "सभ्यतागत दांव" को पूरी तरह महसूस नहीं कर पाए हैं। वहीं, एंथ्रोपिक में जोखिम को बेहतर ढंग से समझा जाता है, लेकिन कंपनी इस डर से दौड़ में बनी हुई है कि अगर वह पीछे हट गई तो दूसरी कंपनियां बिना पर्याप्त सुरक्षा उपायों के आगे बढ़ जाएंगी।

अंत में, कॉक्सन ने AI शोधकर्ताओं से आत्ममंथन की अपील करते हुए सवाल किया, "क्या शोधकर्ताओं को ऐसे सुपरइंटेलिजेंट सिस्टम का प्रशिक्षण शुरू कर देना चाहिए, जिसके दिमाग या व्यवहार को वे अभी पूरी तरह समझते तक नहीं हैं?" IANS की रिपोर्ट के मुताबिक, कॉक्सन उन 1,000 से अधिक AI शोधकर्ताओं में शामिल हैं जिन्होंने वैश्विक सरकारों के बीच बेहतर समन्वय की अपील करने वाले एक बयान पर हस्ताक्षर किए हैं।

इनपुट: IANS