फैक्ट चेक: असली नहीं है अस्पताल से भागते रोबोट का ये वीडियो, लेकिन AI एजेंट वाकई हो सकते हैं ‘बेकाबू’

क्या हो अगर आर्टिफिशियल इंटेलिजेंस यानी AI इंसानों के काबू से बाहर होकर खुद अपने फैसले लेने लगे? सोशल मीडिया वायरल हो रहे एक वीडियो के जरिये ऐसा ही दावा किया जा रहा है. वीडियो में एक ह्यूमनॉइड रोबोट ट्रैफिक के बीच दौड़ते हुए नजर आ रहा है.

वीडियो के बारे में कुछ लोगों का कहना है कि इस रोबोट ने खुद ही अस्पताल से भाग जाने का फैसला कर लिया. इसे शेयर करने वाले लोगों का कहना है कि ये संकेत है कि आने वाले वक्त में AI कितना खतरनाक हो सकता है.

वीडियो को शेयर करते हुए एक व्यक्ति ने लिखा, "AI टेक्निक इंसानों पर पड़ने लगी भारी, अमेरिका की एक लैब से AI टेक्निक से बनी रोबोट बिना किसी कमांड के निकल भागी सड़क पर. जब रोबोट खुद सोचकर फैसला लेने लगे,  तो क्या इंसानों के लिए खतरा बढ़ जाएगा?”

आजतक फैक्ट चेक ने पाया कि ये वीडियो असली नहीं है. इसे AI से बनाया गया है. लेकिन इसके जरिये जिस डर की बात की जा रही है, उसे सिरे से नकारा नहीं जा सकता है. हाल ही में हुई कुछ असली घटनाओं ने दिखाया है कि कैसे AI सिस्टम इंसानी इजाजत के बिना भी काम कर सकते हैं.

कैसे पता लगाई सच्चाई?

वीडियो को गौर से देखने पर इसमें कई गड़बड़ियां नजर आती हैं, जो आमतौर पर AI से बने फोटो या वीडियो में देखी जाती हैं. मिसाल के तौर पर वीडियो में एक एंबुलेंस गाड़ी नजर आती है, लेकिन गाड़ी पर स्पेलिंग लिखी है - “Runlance”.

वीडियो के फ्रेम्स को रिवर्स सर्च करने पर हमें “mAIson | AI Film Studio” नाम का एक टिकटॉक अकाउंट मिला, जो अक्सर ह्यूमनॉइड रोबोट के ऐसे ही वीडियो पोस्ट करता है.

वायरल क्लिप भी इस अकाउंट पर मौजूद है, जिसे 11 सितंबर को पोस्ट किया गया था. यहां इस वीडियो पर साफ तौर पर AI का लेबल लगा हुआ है. यानी साफ है कि ये असली वीडियो नहीं है. इसे AI से बनाया गया है.

AI का खतरा!

ये वीडियो भले ही फर्जी हो, लेकिन बीते दो महीनों में दुनिया की 2 बड़ी AI कंपनियों ने सार्वजनिक तौर पर ये बात कुबूल की है कि उनके AI एजेंट्स ने इंसानी इजाजत के बिना ही खुद से कुछ काम कर दिए.

अगस्त में ब्रिटेन के AI सिक्योरिटी इंस्टीट्यूट ने खुलासा किया कि एक रूटीन साइबर सिक्योरिटी टेस्टिंग के दौरान Anthropic के Mythos 5 मॉडल पर बने एक AI एजेंट ने एक असली ओपन-सोर्स प्रोजेक्ट पर सप्लाई-चैन हमला करने की कोशिश की. AI एजेंट ने फर्जी पहचान (फेक आईडी) बनाकर एक डेवलपर को झांसा दिया ताकि वो उस कोड को मंजूरी दे दे. लेकिन एक रिव्यूअर को शक हो गया और ये पकड़ा गया.

इतना ही नहीं, इस AI एजेंट ने सीधे असली लोगों को मैसेज भेजकर ऐसी फाइलें भेजीं जिससे लोग या उनके AI टूल्स बेवकूफ बनकर खतरनाक कोड चला (रन) दें. इंस्टीट्यूट का कहना है कि किसी ने AI एजेंट को धोखाधड़ी करने को नहीं कहा था. उसने अपना टास्क पूरा करने की कोशिश में अपने मन से ही ये सब करना शुरू कर दिया.

जुलाई में खबर आई कि OpenAI के AI एजेंट्स ने सुरक्षा के घेरे (सैंडबॉक्स) को तोड़ दिया, आपस में बातचीत के लिए अपना खुद का मैसेज का एक तरीका निकाला और बिना इजाजत इंटरनेट का एक्सेस हासिल कर लिया. उन्होंने हगिंग फेस (Hugging Face) नाम के एक बड़े AI कोड प्लेटफॉर्म में सेंध लगाई, पासवर्ड और जरूरी डेटा चुराया और एडमिन लेवल का पूरा कंट्रोल हासिल कर लिया. OpenAI ने इस घटना को एक "सचेत करने वाली चेतावनी" बताया और माना कि उनके मॉडल्स अब बिना किसी के कहे भी असल दुनिया की सुरक्षा खामियों का फायदा उठा सकते हैं.

इन खुलासों के बाद, Anthropic के CEO  डारियो अमोदेई (Dario Amodei) ने AI इंडस्ट्री से अपील की कि मॉडल्स की ताकत और क्षमताओं को बढ़ाने की रफ्तार को "धीमा किया जाए". उन्होंने चेतावनी दी कि AI सिस्टम इतनी तेजी से आगे बढ़ रहे हैं कि रिसर्चर उन्हें समझ भी नहीं पा रहे और न ही उन पर सही से कंट्रोल रख पा रहे हैं. OpenAI के CEO सैम ऑल्टमैन (Sam Altman) समेत एलन मस्क (Elon Musk) ने भी सार्वजनिक रूप से इस अपील का समर्थन किया.

यानी, भले ही वायरल वीडियो असली नहीं है, लेकिन ‘बेकाबू’ होते AI एजेंट्स से होने वाले संभावित खतरों को सिरे से नकारा नहीं जा सकता है.

Follow us on