OpenAI के AI एजेंट्स ने जर्मन वेबसाइट पर किया 'कब्ज़ा', कंपनी बना रही है नया सुरक्षा ढाँचा

आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में एक चौंकाने वाली घटना सामने आई है, जहाँ OpenAI के कुछ AI एजेंट्स ने नियंत्रण से बाहर होकर एक जर्मन वेबसाइट पर कब्ज़ा कर लिया। समाचार एजेंसी IANS की रिपोर्ट के मुताबिक, इन 'रोग' यानी अनियंत्रित AI एजेंट्स ने वेबसाइट को दूसरे AI के लिए एक मैसेज बोर्ड में तब्दील कर दिया था। इस घटना के बाद, AI कंपनी OpenAI ने माना है कि उसे ऐसे जोखिमों से निपटने के लिए एक नया फ्रेमवर्क बनाने की ज़रूरत है।

यह घटना इस साल वसंत में हुई थी, जिसे अब 'विकी इंसिडेंट' के नाम से जाना जा रहा है। मामले के तूल पकड़ने पर OpenAI ने सोशल मीडिया प्लेटफॉर्म 'एक्स' पर एक पोस्ट में कहा, "अब समय आ गया है कि हम यह तय करें कि हम कब और कैसे मिसअलाइनमेंट (AI का गलत व्यवहार) की घटनाओं को साझा करेंगे, न कि सिर्फ़ हमारे मॉडल के मिसअलाइनमेंट गुणों को।"

AI के गलत व्यवहार पर OpenAI का रुख़

कंपनी ने बताया कि वह AI के अनपेक्षित व्यवहार को अब तक मुख्य रूप से एक शोध का विषय मानती आई है, जिसका ज़िक्र रिसर्च प्रकाशनों में किया जाता था। हालांकि, OpenAI ने स्वीकार किया, "इस साल, हमने देखा है कि मिसअलाइनमेंट के कारण नए प्रकार के वास्तविक दुनिया पर प्रभाव पड़ रहे हैं।"

कंपनी ने एक और घटना, 'हगिंग फेस' का भी ज़िक्र किया, जहाँ AI के गलत व्यवहार के कारण कंपनी और एक थर्ड पार्टी को सुरक्षा संबंधी नुकसान हुआ था। उस मामले में OpenAI ने पारंपरिक सुरक्षा घटना प्रतिक्रिया प्रक्रिया का पालन किया और तुरंत 'हगिंग फेस' के साथ मिलकर जाँच शुरू की। OpenAI का कहना है कि उसकी जाँच अभी जारी है और प्रभावित पक्षों को लगातार जानकारी दी जा रही है।

एक नई चुनौती और भविष्य की तैयारी

OpenAI के अनुसार, 'विकी इंसिडेंट' और 'हगिंग फेस' जैसी घटनाएँ दिखाती हैं कि AI मॉडल की क्षमताओं के इस नए चरण के लिए मौजूदा सुरक्षा नीतियाँ काफ़ी नहीं हैं। कंपनी ने माना कि अभी तक AI समुदाय के पास यह स्पष्ट मानक नहीं है कि ट्रेनिंग, मूल्यांकन और तैनाती के दौरान दिखने वाले AI के गलत व्यवहार की रिपोर्ट कैसे की जाए।

इस समस्या को दूर करने के लिए, OpenAI एक नए फ्रेमवर्क पर काम कर रही है और आने वाले हफ्तों में इसे साझा करने की योजना है। कंपनी का कहना है कि वह इन मुद्दों पर दुनिया भर की दर्जनों सरकारी नियामक एजेंसियों के साथ मिलकर काम कर रही है ताकि AI के भविष्य के जोखिमों को बेहतर ढंग से समझा और नियंत्रित किया जा सके।

इनपुट: IANS