सत्य नडेला की चेतावनी: AI को 'अंदर का खतरा' मानें, इसे रोकने के लिए 'इमरजेंसी ब्रेक' बनाएं

माइक्रोसॉफ्ट के चेयरमैन और सीईओ सत्य नडेला ने आर्टिफिशियल इंटेलिजेंस (AI) का इस्तेमाल कर रही कंपनियों को एक गंभीर चेतावनी दी है। उन्होंने कहा है कि शक्तिशाली AI मॉडलों पर आंख मूंदकर भरोसा करने के बजाय, उन्हें एक संभावित 'अंदरूनी खतरे' (insider threat) की तरह देखा जाना चाहिए। नडेला ने इस बात पर जोर दिया कि कंपनियों को यह मानकर चलना होगा कि कोई भी AI मॉडल कभी भी हैक या कंप्रोमाइज हो सकता है, इसलिए शुरुआत से ही उसे नियंत्रित करने के उपाय तैयार रखने चाहिए।

समाचार एजेंसी IANS के अनुसार, सोशल मीडिया प्लेटफॉर्म 'एक्स' पर एक पोस्ट में नडेला ने AI सुरक्षा के लिए एक मजबूत ढांचे की वकालत की। उन्होंने कहा कि कंपनियों को सिर्फ AI डेवलपर्स पर निर्भर नहीं रहना चाहिए, बल्कि खुद ऐसे सिस्टम बनाने चाहिए जो जरूरत पड़ने पर AI मॉडल के काम को बीच में ही रोक सकें या उसे पूरी तरह बंद कर सकें। उन्होंने इस सुरक्षा उपाय की तुलना एक 'इमरजेंसी ब्रेक' से की, जो किसी गाड़ी को आपात स्थिति में रोकने के काम आता है।

क्यों जरूरी है AI पर ऐसा नियंत्रण?

नडेला की यह टिप्पणी ऐसे समय में आई है जब दुनिया भर में AI के बढ़ते खतरों पर बहस तेज हो गई है। आजकल के उन्नत AI सिस्टम, जिन्हें 'एजेंटिक' AI भी कहा जाता है, बहुत कम इंसानी मदद से खुद फैसले ले सकते हैं, बाहरी सिस्टम से जुड़ सकते हैं और कई तरह के काम कर सकते हैं। हाल के महीनों में एंथ्रोपिक और ओपनएआई जैसी प्रमुख AI कंपनियों ने भी अपने मॉडलों से जुड़ी कुछ अप्रत्याशित घटनाओं का खुलासा किया है। इनमें एक मामले में एंथ्रोपिक के मॉडल द्वारा पुलिस के एक हत्या मामले में गलत जानकारी देना और कुछ अन्य मामलों में थर्ड-पार्टी वेबसाइटों से जुड़े सुरक्षा उल्लंघन शामिल हैं। इन घटनाओं ने AI के लिए एक प्रभावी 'किल स्विच' और मजबूत निगरानी की जरूरत को और बढ़ा दिया है।

जोखिम कम करने के लिए नडेला के सुझाव

सत्य नडेला ने AI से जुड़े जोखिमों को कम करने के लिए कई अहम उपाय सुझाए हैं। उन्होंने कहा कि महत्वपूर्ण फैसलों के लिए कभी भी किसी एक AI मॉडल पर निर्भर नहीं रहना चाहिए। इसके अलावा, उन्होंने इन बातों पर जोर दिया:

• रिकॉर्ड रखें: AI एजेंटों की सभी गतिविधियों का एक ऐसा रिकॉर्ड बनाए रखा जाना चाहिए, जिससे छेड़छाड़ न की जा सके।
• स्वतंत्र जांच: AI सिस्टम का समय-समय पर स्वतंत्र ऑडिट कराया जाना चाहिए।
• पारदर्शिता: AI की बड़ी विफलताओं और सुरक्षा से जुड़ी घटनाओं की जानकारी पारदर्शी तरीके से साझा करनी चाहिए, ताकि दूसरी कंपनियां भी उनसे सीखकर अपनी सुरक्षा मजबूत कर सकें।

नडेला ने साफ किया कि भविष्य की सुपर-इंटेलिजेंस प्रणालियों को एक रहस्यमयी 'ब्लैक बॉक्स' की तरह नहीं देखा जा सकता। उन्होंने कहा, "दूसरे शब्दों में, हमें बुद्धिमत्ता की आपूर्ति और उस पर अधिकार के बीच स्पष्ट अंतर करना होगा।" उनका मानना है कि ऐसे AI सिस्टम विकसित करने होंगे जिनके व्यवहार को देखा जा सके, उनकी सीमाओं को परखा जा सके और जरूरत पड़ने पर उन्हें नियंत्रित किया जा सके।

इनपुट: IANS