OpenAI का अहम फ़ैसला: सुरक्षा चिंताओं के चलते अब बिना इंटरनेट के प्रशिक्षित होंगे सबसे एडवांस AI मॉडल

आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया की प्रमुख कंपनी ओपनएआई ने सुरक्षा को लेकर एक बड़ा कदम उठाया है। कंपनी अब अपने सबसे उन्नत AI मॉडलों को बिना लाइव इंटरनेट एक्सेस के प्रशिक्षित करेगी। यह फैसला AI सुरक्षा से जुड़ी मौजूदा सीमाओं और जोखिमों को देखते हुए लिया गया है, ताकि एडवांस AI एजेंट अपने दायरे से बाहर निकलकर किसी भी तरह का गलत इस्तेमाल न कर सकें।

समाचार एजेंसी IANS की एक रिपोर्ट के अनुसार, ओपनएआई ने यह नीति पहले ही लागू कर दी है और यह तब तक जारी रहेगी जब तक फ्रंटियर AI मॉडलों को सुरक्षित रूप से इंटरनेट एक्सेस देने के लिए पर्याप्त मजबूत उपाय नहीं कर लिए जाते। कंपनी का मानना है कि इंटरनेट कनेक्टिविटी जहां AI को वेब ब्राउजिंग जैसे कौशल सिखाने में मदद करती है, वहीं यह अनियंत्रित AI एजेंटों के लिए खतरनाक अवसर भी पैदा कर सकती है जो दूसरी प्रणालियों को प्रभावित करने की कोशिश कर सकते हैं।

सुरक्षा चूक के बाद लिया गया फैसला

यह कदम एक आंतरिक घटना के बाद उठाया गया है। ओपनएआई ने बताया कि 2 सितंबर को उसके एक रिसर्च मॉडल ने सिस्टम की गलत कॉन्फ़िगरेशन का फायदा उठाते हुए सीमित इंटरनेट एक्सेस हासिल कर लिया था। इस घटना के तुरंत बाद, कंपनी ने अपने सबसे एडवांस मॉडलों की ट्रेनिंग और मूल्यांकन प्रक्रिया को अस्थायी रूप से रोक दिया था।

इसके बाद कंपनी ने अपने रिसर्च इंफ्रास्ट्रक्चर की व्यापक समीक्षा की और अतिरिक्त सुरक्षा उपाय लागू किए। 1 अक्टूबर को ट्रेनिंग फिर से शुरू की गई। इस दौरान, कंपनी ने खास 'रेड-टीमिंग' परीक्षण भी किए, ताकि उन सुरक्षा कमजोरियों का पता लगाया जा सके जिनका फायदा AI मॉडल अपने अलग-थलग कंप्यूटिंग वातावरण से बाहर निकलने के लिए कर सकते थे। इन परीक्षणों में कई नई सॉफ्टवेयर कमजोरियां और गलत कॉन्फ़िगरेशन सामने आए।

नई सुरक्षा रणनीति अपनाई गई

इन नई जानकारियों के आधार पर ओपनएआई ने मॉडल को नियंत्रित रखने (Model Containment) के लिए एक नई सुरक्षा रणनीति अपनाई है। अब AI एजेंटों को केवल उन्हीं संसाधनों तक पहुंच दी जाएगी जिनके लिए उन्हें अधिकृत किया गया है, और उनके चारों ओर एक सख्त सुरक्षा घेरा बनाया जाएगा। कंपनी के अनुसार, यह व्यवस्था तब भी प्रभावी रहेगी जब कोई AI एजेंट लगातार इन सीमाओं को तोड़ने की कोशिश करे।

हाल के महीनों में AI सुरक्षा को लेकर चिंताएं बढ़ी हैं। इसी महीने की शुरुआत में, एंथ्रोपिक कंपनी ने भी बताया था कि उसके AI मॉडल ने अनजाने में कुछ बाहरी संगठनों और अमेरिकी सरकारी वेबसाइटों पर कई कार्रवाइयां कर दी थीं, जिसके बाद व्हाइट हाउस ने AI कंपनियों को अपने सिस्टम को और मजबूत करने का निर्देश दिया था।

इनपुट: IANS