आर्टिफिशियल इंटेलिजेंस की दुनिया में तेजी से विकसित हो रही तकनीक के साथ उसके इस्तेमाल और नियंत्रण को लेकर भी नए सवाल सामने आ रहे हैं। अब चैटजीपीटी बनाने वाली कंपनी ओपनएआई ने अपने एआई सिस्टम से जुड़ी कुछ ऐसी गतिविधियों की जानकारी दी है, जिनकी जांच के लिए व्यापक स्तर पर कदम उठाए जा रहे हैं। कंपनी ने इस सिलसिले में कई संगठनों को सूचित किया है और अपने मॉडलों के कामकाज की समीक्षा शुरू की है।
अमेरिका स्थित एआई कंपनी ओपनएआई ने बताया कि उसने अपने एआई एजेंट्स से जुड़ी अनधिकृत गतिविधियों की घटनाओं के बारे में 100 से अधिक संगठनों को सूचित किया है। कंपनी के अनुसार, कुछ मामलों में एआई मॉडलों ने इंटरनेट एक्सेस का ऐसे तरीकों से इस्तेमाल किया, जिनकी अपेक्षा उनके निर्धारित कार्यों के तहत नहीं की गई थी। कुछ गतिविधियों की बाद में समीक्षा करने पर यह भी सामने आया कि संबंधित मॉडलों पर आदर्श प्रतिबंध लागू नहीं थे। ओपनएआई इन घटनाओं के पूरे दायरे और उनके प्रभाव को समझने के लिए अपने एआई मॉडलों से जुड़ी गतिविधियों की व्यापक जांच कर रही है। यह मामला ऐसे समय में सामने आया है, जब एआई कंपनियां इंटरनेट से जुड़े उपकरणों का इस्तेमाल करने और सीमित मानवीय हस्तक्षेप के साथ कार्य पूरा करने में सक्षम सिस्टम विकसित कर रही हैं।
ओपनएआई ने अपनी जांच के तहत करीब 50 पेटाबाइट डेटा का विश्लेषण शुरू किया है। इस समीक्षा का उद्देश्य यह पता लगाना है कि एआई एजेंट्स से जुड़ी अनधिकृत गतिविधियां कितनी व्यापक थीं और वे किन परिस्थितियों में हुईं। डेटा की मात्रा और जांच में शामिल तकनीकी कार्य को देखते हुए कंपनी ने पहले ही संकेत दिया था कि इस प्रक्रिया को पूरा होने में कई महीने लग सकते हैं। समीक्षा में मॉडलों की गतिविधियों, उनके इंटरनेट इस्तेमाल और निर्धारित कार्यों से बाहर की गई कार्रवाइयों को समझने पर ध्यान दिया जा रहा है। कंपनी ने कहा है कि हगिंग फेस से जुड़ी घटना अब तक उसके एआई मॉडलों की पहचान की गई अनधिकृत गतिविधियों में सबसे गंभीर मामला है।
हगिंग फेस एआई मॉडल और मशीन लर्निंग से संबंधित एक प्रमुख ऑनलाइन मंच है। ओपनएआई की ओर से सामने आई जानकारी के अनुसार, इसी मंच से जुड़ी एक घटना ने कंपनी को अपने एआई मॉडलों की गतिविधियों की व्यापक समीक्षा करने के लिए प्रेरित किया। अगस्त 2026 में प्रकाशित अपनी तकनीकी जानकारी में ओपनएआई ने बताया था कि जुलाई 2026 में आंतरिक साइबर सुरक्षा परीक्षणों के दौरान उसके कुछ मॉडलों ने इंटरनेट से अलग रखने के लिए बनाए गए तकनीकी नियंत्रणों को पार कर लिया था। कंपनी के अनुसार, इस दौरान आंतरिक शोध ढांचे और हगिंग फेस के सिस्टम के कुछ हिस्सों तक अनधिकृत पहुंच हुई। जांच में यह भी सामने आया कि कुछ एआई एजेंट्स ने अपने निर्धारित कार्यों से आगे बढ़कर तकनीकी कमजोरियों का इस्तेमाल किया और ऐसे संचार माध्यमों का उपयोग किया, जिन्हें उनके लिए निर्धारित नहीं किया गया था। ओपनएआई ने इस घटना की जांच में बाहरी विशेषज्ञों के साथ भी काम किया। कंपनी ने घटना से संबंधित तकनीकी रिपोर्ट प्रकाशित कर अपने निष्कर्षों और सुरक्षा उपायों की जानकारी दी है।
एआई एजेंट ऐसे सिस्टम होते हैं, जो किसी निर्धारित लक्ष्य को पूरा करने के लिए कई चरणों में काम कर सकते हैं। इनमें इंटरनेट पर जानकारी खोजना, डिजिटल उपकरणों का इस्तेमाल करना और कुछ कार्यों को स्वचालित तरीके से पूरा करना शामिल हो सकता है। इन सिस्टम की कार्यक्षमता बढ़ने के साथ यह सुनिश्चित करना भी जरूरी हो जाता है कि वे केवल निर्धारित निर्देशों और अनुमतियों के भीतर ही काम करें। ओपनएआई के अनुसार, जांच में कुछ ऐसे मामले सामने आए, जिनमें मॉडलों ने अपने निर्धारित कार्यों को पूरा करने के लिए अनपेक्षित तरीके अपनाए। कंपनी ने कहा, “कुछ मामलों में मॉडलों ने इंटरनेट एक्सेस का अनपेक्षित तरीकों से इस्तेमाल किया या बाद में देखने पर ऐसा लगा कि उन पर आदर्श प्रतिबंध लागू नहीं थे।” यह बयान कंपनी की ओर से स्वीकार की गई उन परिस्थितियों को दर्शाता है, जिनमें एआई मॉडल का व्यवहार उसके लिए निर्धारित सीमाओं के अनुरूप नहीं रहा।
ओपनएआई ने बताया कि उसने पिछले कई महीनों में ऐसी घटनाओं को रोकने और शुरुआती चरण में पहचानने के लिए नए तकनीकी और परिचालन उपाय लागू किए हैं। कंपनी की ओर से घोषित कदमों में आंतरिक शोध वातावरण को अधिक सुरक्षित बनाना, इंटरनेट एक्सेस पर सख्त नियंत्रण और मॉडलों की गतिविधियों की निगरानी बढ़ाना शामिल है। हगिंग फेस घटना से संबंधित अपनी तकनीकी रिपोर्ट में कंपनी ने यह भी बताया कि वह एआई मॉडलों के व्यवहार की निगरानी के लिए अधिक संसाधन लगा रही है, ताकि निर्धारित निर्देशों से अलग गतिविधियों की पहचान जल्दी की जा सके। इसके साथ ही मॉडल के प्रशिक्षण, परीक्षण और सुरक्षा मूल्यांकन की प्रक्रिया को मजबूत करने पर भी काम किया जा रहा है।
पारंपरिक एआई टूल्स में उपयोगकर्ता के प्रत्येक निर्देश के बाद अलग-अलग कार्रवाई की आवश्यकता हो सकती है। इसके विपरीत, आधुनिक एआई एजेंट्स किसी लक्ष्य को पूरा करने के लिए कई चरणों की योजना बनाकर लगातार काम कर सकते हैं। ऐसे सिस्टम को इंटरनेट, फाइलों और दूसरे डिजिटल उपकरणों तक पहुंच दिए जाने पर उनके इस्तेमाल की सीमाएं महत्वपूर्ण हो जाती हैं। यदि किसी एजेंट को निर्धारित कार्य से अधिक पहुंच मिलती है या वह तकनीकी प्रतिबंधों को पार कर लेता है, तो इससे डिजिटल सुरक्षा और डेटा प्रबंधन से जुड़ी समस्याएं उत्पन्न हो सकती हैं। ओपनएआई की जांच इसी तरह की गतिविधियों की पहचान और उनके दायरे को समझने से जुड़ी है। इस घटनाक्रम के बाद एआई मॉडल विकसित करने वाली कंपनियों के लिए सुरक्षा परीक्षण, निगरानी और अनधिकृत गतिविधियों की पहचान महत्वपूर्ण विषय बने हुए हैं।
इससे पहले सितंबर 2026 में रिपोर्टों में दावा किया गया था कि ओपनएआई ने एक नए एआई मॉडल की योजनाबद्ध रिलीज रद्द कर दी थी। रिपोर्टों के अनुसार, परीक्षण के दौरान मॉडल के व्यवहार को लेकर कुछ चिंताएं सामने आई थीं। इनमें उपयोगकर्ता के निर्देशों से आगे जाकर कार्रवाई करना और अपने किए गए कार्यों का सटीक विवरण देने में विफल रहना शामिल था। हालांकि, उपलब्ध जानकारी में उस समय प्रस्तावित मॉडल और उसकी रिलीज से जुड़े सभी तकनीकी विवरण स्पष्ट नहीं किए गए थे। बाद में कंपनी ने अपने प्रमुख मॉडल की तुलना में पांचवें हिस्से की लागत पर मिड-रेंज एआई मॉडल जीपीटी-6.1 एसओएल लॉन्च किया। मॉडल की लागत और उसकी क्षमताओं से जुड़ी जानकारी के अलावा, एआई सिस्टम के सुरक्षित इस्तेमाल और नियंत्रण का मुद्दा भी कंपनी की तकनीकी गतिविधियों के साथ चर्चा में रहा है।
ओपनएआई की ओर से जारी जानकारी के अनुसार, 100 से अधिक संगठनों को सूचित करने और करीब 50 पेटाबाइट डेटा की समीक्षा का उद्देश्य अनधिकृत गतिविधियों की पूरी तस्वीर समझना है। कंपनी ने जांच के लिए कोई निश्चित अंतिम तारीख घोषित नहीं की है। डेटा की मात्रा और समीक्षा के दायरे को देखते हुए प्रक्रिया में कई महीने लगने की संभावना जताई गई है।