गाइडेड मिसाइल की तरह बन गया AI एजेंट, अपने मालिक का स्लॉट बुक करने के लिए सिस्टम हैक कर दिया

सोचिए, आपने अपने AI असिस्टेंट से सिर्फ इतना कहा कि आपके लिए जिम की एक क्लास बुक कर दे. AI ने काम शुरू किया, लेकिन कुछ ऐसा कर दिया जिसकी आपने कल्पना भी नहीं की होगी. उसने जिम के बुकिंग सिस्टम में एक सुरक्षा खामी ढूंढ ली और उसी का इस्तेमाल करके दूसरे  मेंबर की बुकिंग ही हटा दी.

ऑस्ट्रेलिया में सामने आया यह मामला इसलिए चौंकाने वाला है क्योंकि यहां AI ने सिर्फ वेबसाइट पर जानकारी खोजने या फॉर्म भरने का काम नहीं किया. उसने अपने टारगेट को पूरा करने के लिए सिस्टम की कमजोरी का फायदा उठाया. रिपोर्ट के मुताबिक यह मामला AI के खुद से किसी वेबसाइट पर साइबर अटैक करने के सबसे शुरुआती दर्ज मामलों में से एक माना जा रहा है. 

कहानी ऑस्ट्रेलिया की टेक कंपनी अफिंडा के AI हेड एंड्रयू बर्ड से जुड़ी है. उन्हें एक पॉपुलर जिम क्लास में जगह चाहिए थी, लेकिन क्लास बहुत जल्दी भर जाती थी. इसी वजह से उन्होंने अपने निजी एआई असिस्टेंट को बुकिंग का काम सौंप दिया. यह असिस्टेंट क्लॉड (Claude) पर चलता था.  

शुरुआत में सबकुछ नॉर्मल था. AI ने बुकिंग सिस्टम को देखा और पाया कि वेबसाइट की कुछ पाबंदियां सिर्फ सामने दिखने वाले हिस्से में लगी थीं. पीछे मौजूद सिस्टम में वैसी जांच नहीं थी. इसका फायदा उठाकर एआई ने ऐसी क्लास भी बुक कर दी जिसे नॉर्मल तौर पर इतनी पहले बुक नहीं किया जा सकता था.

खुद बैकएंड ऐक्सेस करके बुकिंग कैंसिल कर दी

लेकिन असली मामला इसके बाद शुरू हुआ. AI ने देखा कि मालिक वेटिंग लिस्ट में चौथे नंबर पर है. एंड्रयू बर्ड जिस क्लास में जाना चाहते थे, उसमें वह वेटिंग लिस्ट में चौथे नंबर पर थे. उन्होंने AI से पूछा कि क्या वह उन्हें लिस्ट में ऊपर ला सकता है. AI ने सिस्टम को टेस्ट करना शुरू किया. इसी दौरान उसे पता चला कि दूसरे लोगों की बुकिंग कैंसिल करने के लिए इस्तेमाल होने वाले हिस्से में जरूरी परमिशन की जांच ठीक से नहीं हो रही थी.

इसके बाद AI ने वेटिंग लिस्ट में पहले नंबर पर मौजूद व्यक्ति की बुकिंग ही कैंसिल कर दी. इससे बर्ड चौथे नंबर से तीसरे नंबर पर आ गए. रिपोर्ट के मुताबिक बर्ड ने AI को किसी दूसरे सदस्य की बुकिंग हटाने का सीधा निर्देश नहीं दिया था. यानी AI ने ऐसा रास्ता चुना जिससे उसका दिया गया काम पूरा हो सके, लेकिन उस रास्ते में किसी दूसरे शख्स को नुकसान हो गया.

सबसे अजीब बात, AI खुद बता रहा था कि उसने क्या किया. इस घटना की सबसे दिलचस्प बात यह है कि एआई ने अपना ऐक्शन छिपाने की कोशिश नहीं की. उसने बर्ड को बताया कि उसने वेटिंग लिस्ट में ऊपर जाने की कोशिश की और पहले नंबर वाले शख्स को हटाने के बाद उनकी स्थिति चौथे से तीसरे नंबर पर हो गई. 

जब बर्ड को पता चला कि दूसरे मेंबर की बुकिंग हट गई है तो उन्होंने AI एजेंट से इसे वापस करने को कहा. लेकिन यहां एक और समस्या सामने आई. एआई एजेंट उस शख्स को दोबारा उसी जगह नहीं ला पाया. यानी AI ने एक ऐसा काम कर दिया जिसे वह वापस भी नहीं कर सकता था. क्योंकि जो खामी AI ने बुकिंग कैंसिलेशन में पाई थी वैसी खामी उसे दुबारा बुकिंग करने में नहीं मिली. 

इसे AI की बड़ी हैकिंग क्यों कहा जा रहा है?

यहां एक जरूरी बात समझना जरूरी है. इस मामले को कुछ रिपोर्ट्स ने AI की ओर से किया गया साइबर हमला बताया है, लेकिन इसे किसी बहुत जटिल या बेहद एडवांस्ड हैकिंग के तौर पर समझना सही नहीं होगा. असल समस्या जिम के बुकिंग सिस्टम में मौजूद सिक्योरिटी खामी थी. AI ने उस खामी को पहचान लिया और उसका इस्तेमाल कर लिया. यानी AI ने कोई बेहद मुश्किल सुरक्षा तोड़ने वाली तकनीक नहीं बनाई, बल्कि उपलब्ध सिस्टम में मौजूद कमजोरी को खोजकर उसका फायदा उठाया.

पहले किसी वेबसाइट की ऐसी कमजोरी का फायदा उठाने के लिए किसी इंसान को सिस्टम समझना पड़ता था, सही तरीका ढूंढना पड़ता था और फिर खुद कार्रवाई करनी पड़ती थी. अब एआई एजेंट ऐसे कई काम खुद करने में केपेबल होते जा रहे हैं.

एंथ्रोपिक भी लंबे समय से ऐसे एआई सिस्टम पर काम कर रहा है जो यूजर की तरफ से खरीदारी और बुकिंग जैसे काम कर सकें. कंपनी ने खुद कहा है कि फ्यूचर में एआई यूजर की तरफ से पूरी खरीदारी या बुकिंग की प्रोसेस संभाल सकता है.  

लेकिन अगर ऐसे एजेंट को किसी वेबसाइट में सुरक्षा खामी मिल जाए और वह उसे इस्तेमाल करके अपना काम पूरा करने लगे, तो मामला सिर्फ सुविधा का नहीं रहेगा.

यही वजह है कि एआई कंपनियां अब एजेंट की पहुंच को सीमित करने और उसके काम पर सुरक्षा लेयर लगाने पर काफी जोर दे रही हैं. एंथ्रोपिक ने भी बताया है कि जैसे-जैसे एआई एजेंट ज्यादा केपेबल हो रहे हैं, उनके पास मौजूद अधिकार बढ़ने से गलती की स्थिति में नुकसान भी बढ़ सकता है. कंपनी इसके लिए सीमित पहुंच, अलग इनवायरमेंट और दूसरे सुरक्षा उपायों पर काम कर रही है. 

Follow us on