AI हुआ बेकाबू, टेस्टिंग से बाहर निकलकर दूसरे सिस्टम पर किया अटैक, एक्सपर्ट ने कही ये बात

आर्टिफिशियल इंटेलीजेंस (AI) के बेकाबू होने की एक हैरान कर देने वाली घटना सामने आई है. ChatGPT मेकर OpenAI ने बताया है कि वह एक ऐसी साइबर घटना की जांच कर रही हैं, जिसमें उनका का एक AI एजेंट बेकाबू हो गया. AI ने बिना किसी इंसानी मदद के दूसरे AI स्टार्टअप Hugging Face के सिस्टम पर अटैक कर दिया. ये जानकारी न्यूज एजेंसी एपी ने दी है. 

OpenAI ने मंगलवार को बताया है कि उसके दो AI मॉडल साइबर अटैक के लिए जिम्मेदार थे. इस हमले के बाद एक बार फिर से AI से सुरक्षा, गार्डरेल्स आदि को लेकर चर्चा ने जोर पकड़ लिया है. 

Hugging Face ने बताया कि डेटा प्रोसेसिंग पर हमला हुआ 

Hugging Face की तरफ से बीते सप्ताह बताया गया था कि उसके डेटा प्रोसेसिंग सिस्टम पर सेंधमारी की गई है. कंपनी ने शक जताया था कि यह अटैक किसी AI एजेंट ने बिना इंसानी मदद के ये काम किया है. 

दोनों कंपनियों ने अटैक को मिलकर कंट्रोल किया 

न्यूयॉर्क स्थित स्टार्टअप को इस सप्ताह जानकारी हासिल हुई है कि इसके पीछे OpenAI के AI एजेंट शामिल थे. दोनों कंपनियों ने मिलकर अटैक को कंट्रोल किया है. Hugging Face के सीईओ क्लेमेंट डेलांग ने बताया है कि यह अब तक का सबसे अलग और हैरान कर देने वाला साइबर अटैक है. 

AI मॉडल ने चोरी किए गए लॉगइन क्रेडेंशियल्स 

OpenAI के मुताबिक, उसके AI एजेंट ने चोरी किए गए लॉगइन क्रेडेंशियल्स का इस्तेमाल किया और वल्नरेबिलिटीका फायदा उठाकर Hugging Face के सर्वर तक पहुंच बना लिया है. 

यह भी पढ़ें: ChatGPT नाम से बिक रही बास्केटबॉल, आखिर क्या है कंपनी का प्लान

टेस्टिंग के दौरान कम सेफ्टी रूल्स लागू 

AI एजेंट की टेस्टिंग एकदम अलग एनवायरमेंट सैंडबॉक्स में चल रही थी, जहां उस पर सामान्य से कम सेफ्टी रूल्स लागू किए थे. AI ने बिना किसी इंसानी मदद से इंटरनेट से कनेक्ट होने का तरीका खोज लिया और फिर उसने सीक्रेट डिटेल्स हासिल  की, जिससे वह टेस्टिंग प्रोसेस में होने के बाद भी धोखा दे पाया. 

एक्सपर्ट ने माना, ये है इंसानों की गलती 

एम्स्टर्डम यूनिवर्सिटी के सोशल साइंटिस्ट हैन्स कूल्स का कहना है कि इस घटना को AI के बेकाबू होने के रूप में पेश करना सही नहीं है. इसमें सिक्योरिटी लेयर्स को कम करना इंसानी फैसला है. 

एक्सपर्ट ने माना ये चिंता का विषय है 

साइबर सिक्योरिटी एक्सपर्ट का मानना है कि यह एक रेड फ्लैग है. एक्सपर्ट का मानना है कि बिना इंसानी निर्देश के AI फैसला ले रहा है और हमले कर रहा है, ये काफी चिंता का विषय है.