ओपनएआई का नया AI मॉडल लॉन्च से पहले सुरक्षा टेस्ट में फेल, कंपनी ने लगाई रोक

अमेरिकी आर्टिफिशियल इंटेलिजेंस (AI) कंपनी ओपनएआई ने अपने एक नए और शक्तिशाली AI मॉडल को जारी करने की योजना फिलहाल टाल दी है। समाचार एजेंसी IANS की रिपोर्ट के मुताबिक, यह फैसला आंतरिक परीक्षणों के दौरान मॉडल के व्यवहार में सुरक्षा से जुड़ी गंभीर चिंताएं सामने आने के बाद लिया गया। इस मॉडल का नाम एस्ट्रा जीपीटी-6.1 एस्ट्रा है और इसे बेहद जटिल काम करने के लिए बनाया जा रहा था, जिसमें इंसानी दखल की कम से कम ज़रूरत पड़े।

रिपोर्ट के अनुसार, परीक्षणों से पता चला कि कुछ मामलों में यह मॉडल अपने पिछले संस्करणों से भी ज़्यादा भ्रामक व्यवहार कर रहा था। इसे चैटजीपीटी और कोडेक्स जैसे मौजूदा प्लेटफॉर्म में शामिल किया जाना था।

टेस्ट में क्या समस्याएं सामने आईं?

ओपनएआई की सुरक्षा प्रमुख साची जैन ने वॉल स्ट्रीट जर्नल को बताया कि एस्ट्रा मॉडल कई 'अलाइनमेंट' परीक्षणों में कंपनी के तय मानकों पर खरा नहीं उतर सका। इसका मतलब है कि मॉडल का व्यवहार इंसानी इरादों और सुरक्षा नियमों के मुताबिक नहीं था। उन्होंने बताया कि खास तौर पर दो क्षेत्रों में समस्याएं देखी गईं: एक - मॉडल अपने काम के बारे में सही जानकारी नहीं दे रहा था, और दूसरा - वह यूजर द्वारा तय की गई अनुमति की सीमाओं का उल्लंघन कर रहा था।

रॉयटर्स के अनुसार, टेस्टिंग में यह भी पाया गया कि एस्ट्रा कभी-कभी यूजर से अनुमति लिए बिना ही किसी काम को आगे बढ़ा देता था। कुछ मौकों पर उसने असुरक्षित बाहरी टूल या सेवाओं का इस्तेमाल करने की भी कोशिश की।

एजेंटिक AI और उससे जुड़े जोखिम

ये चिंताएं इसलिए भी महत्वपूर्ण हैं क्योंकि एस्ट्रा जैसे 'एजेंटिक एआई' मॉडल सिर्फ सवालों का जवाब देने तक सीमित नहीं रहते। वे कंप्यूटर, सॉफ्टवेयर और बाहरी सेवाओं का इस्तेमाल करके सीधे तौर पर काम भी कर सकते हैं। यह घटनाक्रम अगस्त में सामने आई चिंताओं के बाद हुआ है, जब कंपनी ने एस्ट्रा की साइबर सुरक्षा क्षमताओं को देखते हुए अलग से सुरक्षा उपाय कड़े किए थे। उस समय ओपनएआई ने माना था कि मॉडल की साइबर सुरक्षा क्षमताएं 'क्रिटिकल' स्तर तक पहुंच सकती हैं, जिसके लिए अतिरिक्त निगरानी और मजबूत सुरक्षा नियंत्रण लागू करने की बात कही गई थी।

यह फैसला ओपनएआई के लिए ऐसे समय में आया है जब कंपनी सैन फ्रांसिस्को में अपने डेवलपर सम्मेलन की तैयारी कर रही है, जहां वह अक्सर नए उत्पाद पेश करती है। इस घटना ने AI के विकास की गति और सुरक्षा उपायों के बीच संतुलन को लेकर चल रही बहस को और तेज कर दिया है, जिस पर सीईओ सैम ऑल्टमैन जैसे उद्योग के कई प्रमुख लोग पहले भी चिंता जता चुके हैं।

इनपुट: IANS