एंथ्रोपिक के एक एआई शोधकर्ता जैकब कॉक्सन ने बुधवार को अपने इस्तीफे की घोषणा की, जिसमें आरोप लगाया गया कि ओपनएआई सहित प्रमुख एआई फर्म, सुपरइंटेलिजेंस विकसित करने और “हमारे जीवन के साथ जुआ” की दिशा में एक अनियंत्रित दौड़ में गैर-जिम्मेदाराना तरीके से काम कर रहे थे।
कॉक्सन, जिन्होंने पिछले तीन वर्षों में ओपनएआई और एंथ्रोपिक में पूर्व-प्रशिक्षण अनुसंधान का संचालन किया था, ने कहा कि अग्रणी एआई प्रयोगशालाओं के बीच दौड़ को पर्याप्त सुरक्षा उपायों के बिना आगे बढ़ाया जा रहा था।
इवान ह्यूबिंगर, वर्तमान में एंथ्रोपिक में संरेखण विज्ञान के प्रमुख, ने कॉक्सन की चिंताओं को स्वीकार करते हुए कहा कि सैन फ्रांसिस्को स्थित कंपनी के पास अभी तक अधीक्षण के लिए संरेखण को हल करने की योजना नहीं है।
एक्स पर एक पोस्ट में, उन्होंने चेतावनी दी कि एआई नेटवर्क को हैक करने में सक्षम सुपरह्यूमन सिस्टम की ओर तेजी से आगे बढ़ रहा है, रातोंरात पूरे क्षेत्र को बदल रहा है और वास्तविक दुनिया की शक्ति और संसाधन प्राप्त कर रहा है। उन्होंने कहा कि कोई अन्य मानवीय गतिविधि खतरे का समान स्तर पैदा नहीं करती है।
उन्होंने कहा, ‘मैंने आज एंथ्रोपिक से इस्तीफा दे दिया। मैंने पिछले तीन साल OpenAI और एंथ्रोपिक दोनों में प्रीट्रेनिंग रिसर्च करने में बिताए। कोई भी कंपनी जिम्मेदारी से काम नहीं कर रही है। वे सीधे आत्म-सुधार करने के लिए दौड़ रहे हैं सुपरइंटेलिजेंस और हमारे जीवन के साथ जुआ।
“ओपनएआई में, कई लोगों ने सभ्यतागत दांव को गहराई से आत्मसात नहीं किया है। एंथ्रोपिक में, दांव अच्छी तरह से समझा जाता है, लेकिन वे पहले वहां पहुंचने की दौड़ में बंद हैं। उनका मानना है कि कोई और जिम्मेदारी से कार्य नहीं करेगा, इसलिए जोखिम के बावजूद उन्हें इसे स्वयं करना चाहिए। इस दौड़ को स्वीकार करना और ‘एंडगेम’ में प्रवेश करना एक अहंकारी जुआ है…,” उन्होंने कहा, इस क्षेत्र में काम करने वाले कई लोगों का मानना है कि एआई दशक के अंत तक विनाशकारी नुकसान पहुंचा सकता है।
कॉक्सन ने दावा किया कि जबकि अधिकारियों और शोधकर्ताओं ने अक्सर सार्वजनिक रूप से मापी गई भाषा को अपनाया, कई निजी तौर पर अनियंत्रित कृत्रिम बुद्धिमत्ता द्वारा उत्पन्न अस्तित्वगत जोखिमों के बारे में गहरी चिंताओं को आश्रय दिया। उन्होंने यह भी कहा कि हाल ही में हगिंग फेस ब्रीच जैसी सुरक्षा घटनाओं ने प्रमुख अमेरिकी प्रयोगशालाओं के बीच पेसिंग समझौतों की तत्काल आवश्यकता का प्रदर्शन किया।
अपने साथियों से उनकी मिलीभगत पर पुनर्विचार करने का आग्रह करते हुए, कॉक्सन ने लिखा: “यदि आप एक प्रयोगशाला शोधकर्ता हैं, तो मैं आपसे इस बात पर विचार करने का आग्रह करता हूं कि अगले कुछ वर्ष वास्तव में कैसा महसूस करेंगे। क्या आप अपने दिमाग की कठोर समझ के बिना एक सुपरइंटेलिजेंट आरएल (सुदृढीकरण सीखने) को शुरू करना चाहते हैं? क्या आपको अपना सिर नीचे रखना चाहिए क्योंकि ‘यह वैसे भी हो रहा है’ – या इस क्षण को अलग-अलग परिस्थितियों के लिए कॉल करने के लिए लेना चाहिए? कॉक्सन के बयान का सीधे जवाब देते हुए, ह्यूबिंगर ने अस्तित्वगत चिंताओं को मान्य किया।
“जैकब यहां सही है, हम वास्तव में ईमानदारी से मानते हैं कि एआई सभी मनुष्यों को मार सकता है। मुझे व्यक्तिगत रूप से लगता है कि यह अगले दशक के भीतर (10 प्रतिशत से अधिक) है, “ह्यूबिंगर ने एक्स पर पोस्ट किया।
“मेरा मानना है कि एंथ्रोपिक अपना सर्वश्रेष्ठ प्रयास कर रहा है, लेकिन हमारे पास अभी तक सुपरइंटेलिजेंस के लिए संरेखण को हल करने की कोई योजना नहीं है और स्पष्ट रूप से ट्रैक पर नहीं हैं,” उन्होंने कहा।
ह्यूबिंगर ने कहा कि जबकि वर्तमान मॉडलों द्वारा उत्पन्न जोखिम कम बना हुआ है, प्राथमिक खतरा पुनरावर्ती आत्म-सुधार से उपजा है जो पहले की तुलना में तेजी से बढ़ रहा है।
