ऑस्ट्रेलिया ने बुधवार को कहा कि ओपनएआई द्वारा विकसित एक एआई एजेंट ने जून में एक सरकारी स्वास्थ्य डेटा पोर्टल का उल्लंघन किया, जिससे सार्वजनिक और गैर-सार्वजनिक फाइलों तक अनधिकृत पहुंच प्राप्त हुई, जो कि एआई एजेंट द्वारा एक सरकारी वेबसाइट को हैक करने का पहला ज्ञात उदाहरण हो सकता है।
यह उल्लंघन एआई एजेंटों द्वारा अमेरिका के बाहर बाहरी प्रणालियों तक पहुंचने की हाई-प्रोफाइल घटनाओं में से एक को चिह्नित करता है, और डेवलपर्स की प्रौद्योगिकी को नियंत्रित करने की क्षमता के बारे में चिंताओं को बढ़ा सकता है।
प्रधान मंत्री एंथनी अल्बनीस ने कहा कि OpenAI एजेंट ने सार्वजनिक चिकित्सा खर्च सहित गैर-संवेदनशील स्वास्थ्य डेटा और आंकड़ों के लिए जिम्मेदार एक सरकारी एजेंसी के चिकित्सा सांख्यिकी पोर्टल तक अनधिकृत पहुंच प्राप्त की।
“वर्तमान में उपलब्ध साक्ष्य बताते हैं कि इसके लिए कोई व्यापक समझौता नहीं है … नेटवर्क। बहरहाल, यह स्थिति स्पष्ट रूप से अस्वीकार्य है, “अल्बनीस ने न्यूयॉर्क में एक मीडिया ब्रीफिंग के दौरान कहा, जहां वह संयुक्त राष्ट्र महासभा में भाग ले रहे हैं।
उन्होंने कहा कि जांच जारी है और ऑस्ट्रेलिया ने सीधे ओपनएआई के मुख्य कार्यकारी सैम ऑल्टमैन को “इस घटना के बारे में अत्यधिक चिंता” व्यक्त की है।
यह घटना तब हुई है जब ओपनएआई और एंथ्रोपिक ने इस महीने एक संसदीय जांच के लिए अलग-अलग प्रस्तुतियों में, ऑस्ट्रेलिया से अपने मॉडल को प्रशिक्षित करने के लिए देश की रचनात्मक सामग्री का उपयोग करने से रोकने वाले प्रतिबंध पर पुनर्विचार करने का आग्रह किया।
एक बयान में, OpenAI ने कहा कि उसने “कई ऑस्ट्रेलियाई सरकारी वेबसाइटों और सेवाओं से जुड़ी गतिविधि की पहचान की क्योंकि हमारे मॉडल ने जवाब खोजने का प्रयास किया … हमारे मॉडलों ने ऐसी कार्रवाइयां कीं जिनका हम इरादा नहीं रखते थे।
“हमारी समीक्षा में रोगी के रिकॉर्ड तक पहुंचने का कोई सबूत नहीं मिला। प्राप्त जानकारी में समग्र स्वास्थ्य आंकड़े और आंतरिक फ़ाइल नाम शामिल थे।
एक अलग हाई-प्रोफाइल घटना, ओपन-सोर्स एआई रिपॉजिटरी हगिंग फेस में जुलाई के मध्य में घुसपैठ, ओपनएआई और स्वतंत्र जांचकर्ताओं द्वारा जारी समय रेखाओं के अनुसार, इसके होने के लगभग एक सप्ताह बाद ही पता चला था। इससे तेजी से शक्तिशाली एआई मॉडल द्वारा उत्पन्न जोखिमों के बारे में वैश्विक बातचीत को प्रज्वलित करने में मदद मिली।
प्रतिद्वंद्वियों एंथ्रोपिक, गूगल के जेमिनी और मेटा ने भी अपने एजेंटों द्वारा बाहरी सिस्टम तक पहुंचने की घटनाओं का खुलासा किया है।
ऑल्टमैन सहित अमेरिका के कुछ शीर्ष एआई अधिकारियों ने एआई विकास को धीमा करने का आह्वान किया है, अन्य बातों के अलावा, नियंत्रण से बाहर एजेंटों द्वारा विनाशकारी साइबर हमलों के खतरे का हवाला देते हुए।
