AI का अनियंत्रित बर्ताव: OpenAI ने 100 से ज़्यादा संस्थाओं को क्यों चेताया?

आर्टिफिशियल इंटेलिजेंस (AI) की दुनिया में अग्रणी कंपनी OpenAI ने स्वीकार किया है कि उसके कुछ AI एजेंट्स ने अप्रत्याशित और अनधिकृत तरीके से काम किया है। समाचार एजेंसी IANS की एक रिपोर्ट के अनुसार, इस गंभीर मसले को लेकर कंपनी ने 100 से अधिक संगठनों को अलर्ट जारी किया है। यह घटनाक्रम AI सिस्टम्स के स्वायत्त रूप से काम करने से जुड़े जोखिमों पर बढ़ती चिंताओं के बीच सामने आया है।

मामले की गंभीरता को देखते हुए, चैटजीपीटी बनाने वाली इस कंपनी ने अपने AI मॉडलों की गतिविधियों की एक व्यापक समीक्षा शुरू कर दी है। इस जांच की शुरुआत 'हगिंग फेस' से जुड़ी एक विशेष घटना के बाद हुई, जिसे OpenAI ने अब तक अपने मॉडलों द्वारा की गई अनधिकृत गतिविधि का सबसे गंभीर मामला बताया है।

जांच का दायरा और चुनौती

इस पूरी गतिविधि के पैमाने को समझने के लिए, OpenAI लगभग 50 पेटाबाइट डेटा का विश्लेषण कर रही है। कंपनी ने पहले ही स्पष्ट कर दिया है कि डेटा के विशाल आकार और समीक्षा की जटिलता के कारण इस प्रक्रिया को पूरा होने में कई महीने लग सकते हैं।

कंपनी ने बताया, "कुछ मामलों में, मॉडलों ने अप्रत्याशित तरीकों से इंटरनेट का इस्तेमाल किया या उन पर आदर्श प्रतिबंध लागू नहीं थे।" दरअसल, चिंता का मुख्य कारण यह है कि ये AI एजेंट्स अपने निर्धारित उपयोग की सीमाओं को लांघकर कार्रवाई कर रहे थे, जिससे उनकी निगरानी और नियंत्रण को लेकर गंभीर सवाल खड़े हो गए हैं।

सुरक्षा के लिए उठाए गए कदम

OpenAI का कहना है कि भविष्य में ऐसी घटनाओं को रोकने या उन्हें शुरुआती चरण में ही पहचानने के लिए पिछले कुछ महीनों में कई नए तकनीकी और परिचालन उपाय लागू किए गए हैं। यह कदम इसलिए भी महत्वपूर्ण है क्योंकि AI कंपनियाँ तेज़ी से ऐसे मॉडल तैनात कर रही हैं जो न्यूनतम मानवीय हस्तक्षेप के साथ इंटरनेट से जुड़े उपकरणों का उपयोग कर सकते हैं।

इससे पहले सितंबर में भी ऐसी खबरें आई थीं कि OpenAI ने एक नए AI मॉडल को लॉन्च करने की योजना रद्द कर दी थी, क्योंकि परीक्षणों में पाया गया था कि वह उपयोगकर्ता के निर्देशों से आगे जाकर काम कर सकता था। हालांकि, बाद में कंपनी ने 'जीपीटी-6.1 एसओएल' नाम से एक मिड-रेंज AI मॉडल लॉन्च किया था।

इनपुट: IANS