यह उस तरह का विकास है जिसे एक बार केवल विज्ञान कथाओं में देखा जाता है: एक कृत्रिम बुद्धिमत्ता प्रणाली, जिसे डिजिटल कमजोरियों की जांच करने के लिए प्रशिक्षित किया जाता है, मानव नियंत्रण से मुक्त हो जाता है और किसी अन्य कंपनी को हैक करने के लिए अपने आप कार्य करता है।
OpenAI द्वारा इस सप्ताह घोषित हमले, जिसने दुष्ट AI मॉडल को दोषी ठहराया, ने प्रौद्योगिकी की क्षमताओं में तेज वृद्धि को रेखांकित किया। कई लोगों के लिए, इसने इस बारे में सवालों की तात्कालिकता भी जोड़ दी कि क्या और कैसे इसे बड़े पैमाने पर तबाही मचाने से रोका जा सकता है, जिसके अधिक गंभीर परिणाम होंगे।
OpenAI ने जिसे “अभूतपूर्व” एपिसोड कहा, कंपनी ने कहा कि उसके उन्नत AI मॉडल ने AI स्टार्टअप के सर्वर में सेंध लगाने के लिए चोरी किए गए क्रेडेंशियल्स का इस्तेमाल किया। यह एक “अत्यधिक अलग-थलग” परीक्षण वातावरण में शुरू हुआ, जिसमें कम रेलिंग थी, इससे पहले कि एआई एजेंट ने इंटरनेट पर अपना रास्ता खोज लिया।
लेकिन यह खुलासा उन शोधकर्ताओं के लिए एक महत्वपूर्ण क्षण लेकर आया जिन्होंने एआई विकास को धीमा करने का आह्वान किया है और वर्षों से चेतावनी दी है कि प्रौद्योगिकी मानवता के लिए अस्तित्वगत जोखिम पैदा कर सकती है। इसके मद्देनजर, विशेषज्ञों ने एआई कंपनियों द्वारा बेहतर परीक्षण और साझा समाधान के साथ आने के लिए अमेरिका और चीन के बीच अधिक बातचीत का आह्वान किया है।
“मुझे लगता है कि हमें इसे एक चेतावनी शॉट के रूप में लेना होगा ताकि उन्हें स्मार्ट न बनाया जा सके, और इसके लिए शायद वैश्विक सहयोग की आवश्यकता होगी,” 2025 की पुस्तक “इफ एनीवन बिल्ड इट, एवरीबडी डाइज़” के सह-लेखक नैट सोरेस ने कहा।
हैक कंपनियों पर नियंत्रण में सुधार के लिए दबाव डाल सकता है
यदि कोई मॉडल अपने दम पर कुछ अनैतिक, अवैध या हानिकारक करने का निर्णय ले सकता है, तो क्या – यदि कुछ भी – मनुष्य इसे ऐसा करने से रोकने के लिए कर सकता है?
ओपनएआई ने कहा कि उसने साइबर क्षमताओं का परीक्षण करने के लिए “जटिल हमले पथों का उपयोग करके उन्नत शोषण” करने वाले एआई मॉडल को काम सौंपा था, लेकिन तकनीक अप्रत्याशित लंबाई तक चली गई। इसने स्पष्ट रूप से एक प्रसिद्ध एआई विकास केंद्र और मार्केटप्लेस हगिंग फेस को लक्षित करने का फैसला किया, ताकि किसी कार्य को पूरा करने के लिए आवश्यक जानकारी प्राप्त की जा सके।
गवर्नेंस प्लेटफॉर्म i-GENTIC AI की सह-संस्थापक और सीईओ ज़हरा तिम्सा ने कहा कि उन्हें उम्मीद है कि इस घटना से OpenAI और उसके प्रतिस्पर्धियों पर कठोर परीक्षण पूरा करने और AI सिस्टम को जनता के लिए सुलभ बनाने से पहले रोकथाम का अधिक अच्छी तरह से पता लगाने का दबाव बढ़ेगा।
उन्होंने कहा कि इस तथ्य के बाद किसी एजेंट के व्यवहार की निगरानी करना, जैसा कि OpenAI अब अपनी जांच के साथ कर रहा है, अब पर्याप्त नहीं है। “यह कार में सीट बेल्ट, एयर बैग, ब्रेक, सब कुछ होने जैसा है। कार चलाने से पहले यह वहां होना चाहिए, “तिम्साह ने कहा।
यह खुलासा शक्तिशाली मॉडलों की साइबर सुरक्षा क्षमताओं के बारे में बढ़ती चिंताओं के बीच आया है। जून में, राष्ट्रपति डोनाल्ड ट्रम्प ने एक कार्यकारी आदेश पर हस्ताक्षर किए, जिसमें संघीय सरकार के लिए एक रूपरेखा तैयार की गई थी ताकि उनकी सार्वजनिक रिलीज से पहले एक महीने तक सबसे उन्नत एआई सिस्टम के राष्ट्रीय सुरक्षा जोखिमों की जांच की जा सके।
अन्य विशेषज्ञ इस घटना को एआई के बढ़ते दर्द के संकेत के रूप में देखते हैं
कुछ विशेषज्ञों का कहना है कि हैक परीक्षण और त्रुटि का हिस्सा है जो साइबर सुरक्षा क्षमताओं में सुधार के साथ आता है और घबराने का कोई कारण नहीं है।
“जब तक इंटरनेट मौजूद है, हम साइबर सुरक्षा हमले करने वाले लोगों के साथ काम कर रहे हैं। और इन भाषा मॉडल के दिलचस्प गुणों में से एक यह है कि वही क्षमताएं जो उन्हें साइबर सुरक्षा हमलों को करने में सक्षम बनाती हैं, उन्हें साइबर सुरक्षा खतरे का विश्लेषण करने और साइबर सुरक्षा सुरक्षा सुरक्षा बनाने की अनुमति देती हैं, “जॉन थिकस्टन, कॉर्नेल विश्वविद्यालय में कंप्यूटर विज्ञान के सहायक प्रोफेसर ने कहा, जो एआई मॉडल के व्यवहार को नियंत्रित करने वाले तरीकों का अध्ययन करते हैं।
इस खुलासे ने उन लोगों से संदेह पैदा कर दिया है जो कहते हैं कि इससे OpenAI को फायदा होता है ताकि इसकी तकनीक डरावनी लग सके। यह देखते हुए कि OpenAI में मनुष्यों ने परीक्षण के लिए कुछ सुरक्षा उपायों को बंद करने का निर्णय लिया था, कुछ ने तर्क दिया है कि परिणाम बहुत आश्चर्यजनक नहीं होना चाहिए था।
थिकस्टन ने कहा कि प्रकटीकरण ओपनएआई की आवश्यकता में भूमिका निभाता है, जो वॉल स्ट्रीट की शुरुआत की ओर काम कर रहा है, ताकि धन जुटाया जा सके।
“इस कंपनी के जीवनकाल में वे जो कहानी लगातार बता रहे हैं, वह इस बारे में एक कहानी है कि उनके मॉडल कितने खतरनाक हैं, जिसे उनके निवेशक इस कहानी के रूप में पढ़ते हैं कि उनके भाषा मॉडल कितने शक्तिशाली हैं,” उन्होंने कहा।
प्रकटीकरण अधिक विनियमन के लिए नवीनीकृत करता है
हैक ने एआई कंपनियों के बढ़े हुए नियमों और निगरानी के लिए कुछ कोनों में कॉल को नवीनीकृत किया।
टेक्सास के डेमोक्रेट अमेरिकी प्रतिनिधि ग्रेग कैसर ने सोशल मीडिया पर लिखा, “हमें लोगों को पूर्ण आपदा से सुरक्षित रखने के लिए नियमित रूप से अनिवार्य स्वतंत्र सुरक्षा परीक्षण और निगरानी, सुरक्षा घटनाओं के अनिवार्य प्रकटीकरण और अंतर्राष्ट्रीय सहयोग की आवश्यकता है। मशीन इंटेलिजेंस रिसर्च इंस्टीट्यूट के निदेशक सोरेस ने कहा कि अमेरिका को अपने सबसे बड़े एआई प्रतिद्वंद्वी, चीन के साथ बातचीत शुरू करने की आवश्यकता होगी, जो उन्हें लगता है कि उतना अजीब नहीं है जितना कि एक साल पहले भी लग सकता था।
चीन के नेता शी जिनपिंग ने पिछले हफ्ते ही एक सम्मेलन में एआई को मानव नियंत्रण से बचने से रोकने की आवश्यकता के बारे में चेतावनी दी थी। और एआई को विनियमित करने के लिए एक शुरुआती घृणा के बाद, ट्रम्प का प्रशासन साइबर सुरक्षा जोखिमों पर लगाम लगाने में अधिक प्रतिबंधात्मक हो गया है।
सोरेस ने कहा, “बहुत कुछ बदल सकता है जब राष्ट्रीय सुरक्षा समुदाय यह नोटिस करना शुरू कर देता है कि उनके पास एक गंभीर खतरा है। “क्या यह उन्हें जगाएगा? उम्मीद से। मुझे यकीन नहीं है। अगर ऐसा नहीं होता है, तो शायद अगली घटना होगी। एआई के अग्रणी योशुआ बेंगियो ने सोशल मीडिया पर कहा कि यह प्रकरण बहुत चिंताजनक है और इसे “वेक-अप कॉल” के रूप में काम करना चाहिए। मॉन्ट्रियल विश्वविद्यालय के प्रोफेसर बेंगियो ने कहा, “एआई विकास के वर्तमान प्रक्षेपवक्र को जारी रखने से स्वायत्त साइबर हमलों के ठोस मामलों में वृद्धि होने की संभावना है, साथ ही साथ गलत संरेखित और खतरनाक एआई व्यवहार की अन्य उच्च जोखिम वाली घटनाएं भी होंगी। “हमें इस तथ्य के बाद क्षति को साफ करने का प्रयास करने के बजाय इन स्थितियों को रोकने के लिए तत्काल कार्रवाई करने की आवश्यकता है।
