गरबा करती लड़कियों के AI वीडियो वायरल, भद्दे कमेंट्स की लगी झड़ी

देश भर में गरबा की धूम के बीच सोशल मीडिया पर लहंगा चोली में डांस करती लड़कियों के AI वीडियो-तस्वीरों की बाढ़ आ गई है. इनमें उनके पहनावे को लेकर विवाद खड़ा हो गया. इन्हें शेयर करते हुए बहुत सारे लोग गरबा कार्यक्रम में जाने वाली लड़कियों के बारे में आपत्तिजनक कमेंट कर रहे हैं और उन्हें वैश्या तक कह रहे हैं.

हाल ही में गुजरात पुलिस ने गरबा खेलने वाली महिलाओं के वीडियो एडिट करके उन्हें इंस्टाग्राम पर शेयर करने के आरोप में तीन नाबालिगों के खिलाफ कार्रवाई की थी. सोशल मीडिया इस तरह के AI से एडिटेड वीडियो-तस्वीरों से पटा पड़ा है और बहुत सारे लोग इन्हें असली लड़कियों के वीडियो समझ रहे हैं.  

इन तस्वीरों और वीडियो में ऐसे कई क्लू हैं जिनसे इनके AI से बने या एडिट होने का पता चलता है. जैसे, इस वीडियो की शुरुआत में बैंगनी लहंगा पहने हुए लड़की अपने बाएं हाथ में तीन कंगन पहने हुए दिखती है. पर इसी वीडियो में तकरीबन दस सेकेंड पर उसके हाथ में सिर्फ दो कंगन दिखते हैं. इसी तरह, गरबा की पोशाक पहने हुए एक महिला की तस्वीर में उसके गले के हार के लटकन अलग-अलग आकार और डिजाइन के नजर आ रहे हैं. महिला के ठीक पीछे खड़े आदमी के हाथ ही नजर नहीं आ रहे हैं.

हमने कई AI डिटेक्शन टूल्स की मदद से इन फोटो-वीडियो की जांच की. मेटा के AI डिटेक्टशन टूल, गूगल के टूल सिंथआईडी और हाइव मॉडरेशन ने इनके एआई से बने होने की संभावना जताई.

आजतक फैक्ट चेक ने पाया कि इनमें से कई तस्वीरें AI इन्फ्लुएंसर्स की हैं, यानी ऐसे इन्फ्लुएंसर जिनका पूरा किरदार ही AI से बना है. जैसे, गीतांजलि बिनानी नाम की एक AI इन्फ्लुंएसर ने खुद को जोधपुर की टीचर बताया है. इस अकाउंट के बायो सेक्शन में साफ तौर पर वर्चुअल क्रिएटर लिखा है. इस अकाउंट में कई तस्वीरें और कैप्शन बेहद आपत्तिजनक हैं.

वहीं, गरबा की अश्लील फोटो-वीडियो पोस्ट करने वाले कई AI इन्फ्लुएंसर के अकाउंट्स ऐसे भी हैं जिन्होंने AI के इस्तेमाल की बात कहीं नहीं बताई है. यही वजह है कि बहुत सारे लोग इन्हें असली इन्फ्लुएंसर का अकाउंट समझ रहे हैं. ऐसा ही एक अकाउंट अदिति भदौरिया का है. कई लोग अदिति को असली सोशल मीडिया इन्फ्लुएंसर समझ कर उसके पहनावे पर टिप्पणी कर रहे हैं. 

चारे की तरह इस्तेमाल हो रहे गरबा के वीडियो  

AI इन्फ्लुएंसर के ये अकाउंट अलग-अलग मौकों के हिसाब से अश्लील तस्वीरें और वीडियो पोस्ट करते हैं. इससे पहले फीफा वर्ल्ड कप और सीजेपी के प्रदर्शन के दौरान भी इस तरह के वीडियो सामने आए थे. ऐसे वीडियो पोस्ट करने वाले अकाउंट अक्सर लोगों से स​बस्क्रिप्शन लेने के लिए कहते हैं. वहीं, कुछ टेलीग्राम चैनल से जुड़ने की गुजारिश भी करते हैं. ऐसा ही एक अकाउंट अनन्या शर्मा नाम की AI इन्फ्लुएंसर का है. इस अकाउंट ने भी आपत्तिजनक पोशाक में गरबा से जुड़ी तस्वीरें पोस्ट की थीं जो वायरल हुई हैं. अकाउंट के बायो सेक्शन में एक टेलीग्राम चैनल का लिंक है. चैनल में कुछ छुपी हुई तस्वीरें हैं जिनका डिस्क्रिप्शन पढ़कर लगता है कि ये पोर्नोग्राफिक तस्वीरें और वीडियो हैं. इनकी कीमत 150 रुपये से लेकर 10000 रुपये तक है.  

गरबा वीडियो चुराकर चल रहा खेल

हमें कुछ ऐसे भी वीडियो मिले जो गरबा कार्यक्रमों में जाने वाली लड़कियों के असली वीडियो से छेड़छाड़ करके बनाए गए हैं. मिसाल के तौर पर, वडोदरा में रहने वाली नाएरा राजपोपट के वीडियो को AI से एडिट करके उसे अश्लील बना दिया गया है. हमने इस बारे में और जानकारी पाने के लिए नाएरा से संपर्क किया है. उनका जवाब आने पर उसे खबर में अपडेट किया जाएगा.

गरबा कार्यक्रमों में मुस्लिमों की एंट्री को लेकर कई जगह बवाल देखने को मिला है. ऐसे में लड़कियों के गरबा पोशाकों में अश्लील वीडियो सामने आने से ऑनलाइन स्पेस में तनाव और बढ़ गया है. एक व्यक्ति ने ऐसा एक वीडियो पोस्ट करते हुए लिखा, “गरबा पंडाल में मुस्लिम नहीं जा सकते ये रोना बाद में रो लेना पहले अपनी बहन बेटियों को संस्कार सिखाओ!” वहीं, एक दूसरे व्यक्ति ने लिखा, “ये वही मादा हैं जो ‘मेरा अब्दुल ऐसा नहीं है’ बोलती हैं.”

गरबा तो बहुत जल्द खत्म हो जाएगा. हम उम्मीद करते हैं कि लड़कियों के निजी वीडियो से छेड़छाड़ करने के लिए AI का इस्तेमाल भी जल्द बंद हो.  

Follow us on