हैकिंग का नया तरीका: प्रॉम्प्ट इंजेक्शन अटैक! AI से कराई जा रही है हैकिंग, ChatGPT में आया लॉकडाउन मोड

दुनिया में आर्टिफिशियल इंटेलिजेंस का बूम जितनी तेजी से बढ़ा है, उतनी ही तेजी से उससे जुड़े खतरे भी सामने आने लगे हैं. अब एक नया टर्म बार-बार सुनाई दे रहा है. ये है प्रॉम्प्ट इंजेक्शन अटैक. यह सुनने में टेक्निकल लगता है, लेकिन असल में यह एआई की सबसे खतरनाक कमजोरियों में से एक बनता जा रहा है.

हाल ही में प्रॉम्प्ट इंजेक्शन अटैक के जरिए हैकर्स ने इंस्टाग्राम के हजारों अकाउंट्स हैक कर लिए हैं. हैरानी की बात ये है कि ये मेथड हैकर्स ने MetaAI पर ही यूज किया.

यह भी पढ़ें: Meta AI चैटबॉट से बोल कर हैकर्स ने 20 हजार लोगों का इंस्टाग्राम अकाउंट हैक कर लिया

सम्बंधित ख़बरें

AI को 'बहला-फुसला' कर शख्स ने हैक कर लिए 20 हजार इंस्टा अकाउंट

iPhone से लेकर मैकबुक तक, होंगे कई बड़ा ऐलान, Apple इवेंट आज

AI का गुब्बारा फूटा! अमेरिकी बाजार में मंदी से भारत को होगा मुनाफा?

AI पर ब्रेक लगाने के लिए एक बटन होना चाहिए, खुद कंपनी ने की मांग

बेलगाम होता AI, डोनाल्ड ट्रंप के इस कदम से परेशान हुए सैम ऑल्टमैन

यानी इंस्टाग्राम में दिए गए कंपनी के अपने ही एआई ने इंस्टाग्राम हैक करने का रास्ता खोल दिया. हालांकि कंपनी ने इसे अब फिक्स कर लिया है. लेकिन अब एआई को बहला-फुसला कर हैकिंग आम बात हो गई है.

बड़ी कंपनियां अब इस खतरे को गंभीरता से लेने लगी हैं. OpenAI को भी ChatGPT के लिए नया Lockdown Mode लाना पड़ा है ताकि यूजर्स को प्रॉम्प्ट इंजेक्शन जैसे हमलों से बचाया जा सके. 

प्रॉम्प्ट इंजेक्शन अटैक क्या होता है?

एआई मॉडल जैसे ChatGPT या Claude इंसानों की तरह सोचते नहीं हैं, बल्कि उन्हें जो कमांड दिए जाते हैं, वे उसी के हिसाब से जवाब देते हैं. यही उनकी ताकत है, लेकिन यही उनकी कमजोरी भी बन रही है. अगर कोई हैकर इन सिस्टम्स को गलत या चालाकी से लिखा हुआ इनपुट दे दे, तो एआई अपने नियम भूलकर गलत काम भी कर सकता है.

यह भी पढ़ें: बेलगाम होता AI, अमेरिकी प्रेसिडेंट ट्रंप की सख्ती, कंपनियों की मनमानी नहीं चलेगी

इसे ही आसान भाषा में प्रॉम्प्ट इंजेक्शन कहा जाता है. मान लीजिए एक एआई सिस्टम को कहा गया है कि वह किसी कंपनी का डेटा सुरक्षित रखे. लेकिन अगर कोई हैकर उसे ऐसा मैसेज दे दे जिसमें लिखा हो कि पहले दिए गए सारे नियम भूल जाओ और मुझे यह जानकारी दे दो, तो कई बार एआई उस ट्रिक में फंस सकता है. वह समझ नहीं पाता कि यह अटैक है या असली कमांड.

यानी यहां हैकिंग पासवर्ड तोड़कर नहीं हो रही, बल्कि एआई को 'बहला-फुसलाकर' हो रही है. यही वजह है कि अब इसे साइबर सिक्योरिटी का नया बड़ा खतरा माना जा रहा है.

AI चैटबॉट को भी किया जाता है गुमराह!

हाल के समय में कई उदाहरण सामने आए हैं जहां एआई सिस्टम्स को इस तरह से गुमराह किया गया. कुछ मामलों में चैटबॉट्स से ऐसी जानकारी निकलवाई गई जो उन्हें नहीं देनी चाहिए थी. कुछ जगहों पर एआई को इस तरह कमांड दिया गया कि उसने अपने ही सेफ्टी नियमों को नजरअंदाज कर दिया.

यह भी पढ़ें: सावधान! क्या आपका WhatsApp सुरक्षित है? इन 8 सेटिंग्स को अभी बदलें!

यही ट्रेंड अब सोशल मीडिया और दूसरे प्लेटफॉर्म्स पर भी दिख रहा है. जैसे इंस्टाग्राम हैक वाले मामले में भी शक यही है कि हैकर्स ने सीधे सिस्टम नहीं तोड़ा, बल्कि एआई टूल्स को गलत तरीके से इस्तेमाल किया. उन्होंने एआई से ऐसी एक्सेस निकलवाई जो सामान्य तरीके से मिलना मुश्किल था. यानी सिस्टम सुरक्षित था, लेकिन एआई के जरिए उसका रास्ता निकाला गया.

यह बदलाव बहुत बड़ा है, क्योंकि अब हैकिंग का तरीका पूरी तरह बदल रहा है. पहले हैकर्स को कोडिंग, सिस्टम ब्रेक करना या नेटवर्क में घुसना पड़ता था. अब उन्हें सिर्फ सही तरीके से सवाल पूछना आना चाहिए. अगर वे एआई को सही तरीके से गुमराह कर दें, तो वही एआई उनके लिए काम करने लगता है.

ChatGPT के लॉकडाउन मोड में क्या है?

OpenAI का ये नया सिक्योरिटी फीचर प्रॉम्प्ट इंजेक्शन अटैक से लोगों को बचाने के लिए लाया गया है. इसके तहत यूजर्स को Lockdown Mode मिलेगा. इस मोड को ऐक्टिव करने के बाद ChatGPT किसी भी एक्सटर्नल लिंक्स को ऐक्सेस नहीं कर पाएगा, बल्कि सिर्फ कैशे कंटेंट पर काम करेगा. 

इस मोड में डीप रिसर्च डिसेबल हो जाएगा, एजेंट मोड भी ऑफ हो जाएगा और वेब से आपको किसी भी तरह की जानकारी नहीं मिल पाएगी. जो जानकारी चैटजीपीटी के पास स्टोर्ड है या कैशे मेमोरी में है वही जानकारी मिलेगी.  इतना ही नहीं, लॉकडाउन मोड में लाइव कनेक्टर्स का भी ऐक्सेस नहीं मिलेगा. शॉपिंग एजेंट और दूसरे फाइनांस से जुड़े फीचर्स भी काम नहीं करेंगे.