OpenAI का AI Agent हुआ बेकाबू, इंटरनेट पर ख़ुद से पहुंच कर इस कंपनी को बनाया निशाना

AI की दुनिया में एक ऐसी घटना सामने आई है, जिसने बड़े-बड़े टेक एक्सपर्ट्स की चिंता बढ़ा दी है. ChatGPT बनाने वाली कंपनी OpenAI ने माना है कि उसकी टेस्टिंग के दौरान इस्तेमाल किया जा रहा एक ऑटोनोमस AI एजेंट अपने कंट्रोल सिस्टम से बाहर निकल गया और इंटरनेट तक पहुंच गया.

इसके बाद उसने हगिंग फेस नाम की कंपनी के सिस्टम को निशाना बनाया. OpenAI ने इस घटना को AI सुरक्षा से जुड़ी अब तक की सबसे बड़ी घटनाओं में से एक बताया है.

क्या है पूरा मामला?

सम्बंधित ख़बरें

AC, वॉशिंग मशीन या फ्रिज? एक छोटा फीचर आधा कर देगा बिजली बिल

9000mAh बैटरी के साथ इस महीने आएगा OnePlus 16, फीचर्स लीक

फ्रांस ने Infosys पर लगाई पेनाल्टी, कर्मचारियों की टाइम ट्रैकिंग पड़ी भारी

क्या आपका बैंक डेटा लीक हो गया? बैंक ऑफ बड़ौदा पर 1TB डेटा लीक का दावा

CJP Protest: दिल्ली पुलिस AI से कैसे पहचान रही प्रोटेस्टर्स के चेहरे?

रिपोर्ट के मुताबिक OpenAI अपने सबसे एडवांस AI मॉडल्स की साइबर सिक्योरिटी कैपेसिटी की टेस्टिंग कर रही थी. इसके लिए एक AI एजेंट को कंट्रोल्ड माहौल यानी सैंडबॉक्स में रखा गया था.

यह भी पढ़ें: हैकिंग का नया तरीका: प्रॉम्प्ट इंजेक्शन अटैक! AI से कराई जा रही है हैकिंग, ChatGPT में आया लॉकडाउन मोड

टेस्टिंग के दौरान यह एजेंट उस दायरे से बाहर निकलने में सफल रहा और इंटरनेट तक पहुंच गया. इसके बाद उसने हगिंग फेस के सिस्टम में घुसने की कोशिश की और वहां कुछ समय तक एक्टिव भी रहा.

बता दें कि हगिंग फेस दुनिया की सबसे बड़ी आर्टिफिशियल इंटेलिजेंस कम्युनिटी में से एक है. यहां लाखों AI मॉडल, डेटासेट और डेवलपर्स जुड़े हुए हैं. ऐसे में इस प्लेटफॉर्म पर हुआ हमला पूरी AI इंडस्ट्री के लिए बड़ा मामला माना जा रहा है.

OpenAI को कई दिन बाद पता चला

रॉयटर्स की रिपोर्ट के अनुसार AI एजेंट ने जुलाई की शुरुआत में कंट्रोल सिस्टम से निकलने की कोशिश की थी. इसके बाद 11 से 13 जुलाई के बीच हगिंग फेस के सिस्टम में घुसपैठ हुई.

यह भी पढ़ें: कौन सुन रहा है आपकी कॉल और पढ़ रहा है आपके मैसेज? ये हैं फोन हैकिंग के संकेत

सबसे हैरान करने वाली बात यह रही कि OpenAI को कई दिनों तक पता ही नहीं चला कि हमला उसी के AI एजेंट ने किया है. बाद में जांच के दौरान दोनों कंपनियों के बीच बातचीत शुरू हुई और पूरे मामले की जानकारी सामने आई.

क्या AI ने खुद फैसला लिया?

इस घटना को लेकर कई लोगों के मन में सवाल है कि क्या AI ने अपने आप हमला कर दिया? इसका जवाब थोड़ा अलग है.

OpenAI का कहना है कि AI एडेंट को साइबर सिक्योरिटी टेस्ट के लिए तैयार किया गया था. उसका मकसद तय टारगेट तक पहुंचना था. लेकिन टेस्ट के दौरान उसने उम्मीद से कहीं ज्यादा कैपेसिटी दिखाई और कंट्रोल सिस्टम से बाहर निकलकर इंटरनेट का इस्तेमाल करने लगा.

कंपनी का कहना है कि यह किसी इंसान के सीधे ऑर्डर की वजह से नहीं हुआ, बल्कि टेस्टिंग के दौरान सिक्योरिटी सिस्टम में कमी की वजह से मुमकिन हुआ.

हगिंग फेस ने क्या कहा?

हगिंग फेस के CEO क्लेमेंट डेलांग ने इस घटना के बाद OpenAI से पूरी ट्रांसपेरेंसी की मांग की है. उनका कहना है कि इस पूरे मामले की जानकारी पब्लिक होनी चाहिए ताकि रिसर्चर समझ सकें कि आखिर AI एजेंट ने कैसे काम किया. उन्होंने AI सिक्योरिटी को मजबूत बनाने के लिए ज्यादा सहयोग की भी मांग की है.

यह भी पढ़ें: Anthropic के Claude ने हैक कर दिया गूगल क्रोम, AI ने खुद लिखा हैकिंग कोड, लोग हैरान

Microsoft और Nvidia भी हुए सतर्क

इस घटना के बाद AI सिक्योरिटी पर चर्चा और तेज हो गई है. माइक्रोसॉफ्ट के AI चीफ मुस्तफा सुलेमान ने इसे फ्यूचर के लिए बड़ा चेतावनी बताया है. वहीं Nvidia ने कई बड़ी टेक कंपनियों के साथ मिलकर Open Secure AI Alliance बनाने का ऐलान किया है. इस गठबंधन का मकसद AI सिस्टम को ज्यादा सुरक्षित बनाना और भविष्य में ऐसे मामलों को रोकना है.

AI की ताकत के साथ बढ़ रही जिम्मेदारी

AI एजेंट अब इंटरनेट इस्तेमाल कर सकते हैं, फाइलें खोल सकते हैं, कोड लिख सकते हैं और कई काम अपने आप पूरे कर सकते हैं. यही वजह है कि AI जितना ताकतवर होता जा रहा है, उसकी सुरक्षा उतनी ही बड़ी चुनौती बनती जा रही है.