scorecardresearch
 

चेहरा-आवाज आपकी, लेकिन होगा कोई दूसरा, Deepfake क्या है? कैसे करता है ये काम

फ़िल्मों से लेकर सोशल मीडिया ऐप्स पर इन दिनों Deepfake टेक्नोलॉजी तेज़ी से यूज की जा रही है. अगर इसे लेकर सावधानी न बरती गई तो आगे काफ़ी मुश्किल हो सकती है. क्या है Deepfake आपके लिए जानना जरूरी है.

Photo: Hao Li Twitter (Deepfake Demo) Photo: Hao Li Twitter (Deepfake Demo)
स्टोरी हाइलाइट्स
  • Deepfake पर सोशल मीडिया कंपनियों ने अभी से शिकंजा न कसा तो आगे ख़तरनाक हो सकता है.
  • Deepfake के ज़रिए असली वीडियो को नक़ली बना कर ऐसे पेश किया जाता है कि पहनी नज़र में वो असली लगता है.
  • Deepfake आर्टिफिशियल इंटेलिजेंस बेस्ड है और इसे फ़िल्मों में भी यूज किया जाता है.

Deepfake Explainer Hindi: सोशल मीडिया पर पिछले कुछ दिनों से एक वीडियो वायरल हो रहा है. इस वीडियो में भारत की प्रधानमंत्री नरेंद्र मोदी, चीन के राष्ट्रपति शी जिनपिंग और रक्षा मंत्री राजनाथ सिंह दिख रहे हैं.

वीडियो में तीन विंडो हैं, बीच में शी जिनपिंग है और एक बॉलीवुड का गाना बैकग्राउंड में चल रहा है. ये तीनों ही उस गाने पर लिप्सिंग करते हुए दिख रहे हैं. देख कर ही लग रहा है कि ये एडिटेड और फेक है इसमें कोई दो राय नहीं है.

हमने इस वीडियो के बारे में इसलिए बताया ताकि आपको ये समझा सकें की Deepfake (Deep Fake) क्या है और कैसे इसे यूज करके फेक न्यूज और गलत जानकारियां वायरल की जाती हैं.

Deepfake बेस्ड Reface ऐप हो रहा है पॉपुलर..

Deepfake से जुड़ा  Reface AI ऐप भी इन दिनों वायरल हो रहा है.  बॉलीवुड ऐक्टर रणदीप हुडा ने भी इस ऐप के ज़रिए अपना फ़ेस थॉर के साथ स्वैप किया है.

ये ऐप सबसे पहले आपकी फ़ोटो लेता है इसके बाद फेशियल फ़ीचर्स को अनालाइज करके सेलिब्रिटी वीडियो के फ़ेस के साथ आपका फ़ेस स्वैप कर देता है. ये भी डीप फेक का ही एक उदाहरण है.

डीप फेक बेस्ड वीडियो हो रहा है वायरल

क्या है Deepfake

आज आपको हम ये भी बताएंगे कि Deepfake कैसे यूज किया जाता है और इसमें कौन सी टेक्नोलॉजी का इस्तेमाल होता है.

टॉप Deepfake आर्टिस्ट और कंप्यूटर साइंटिस्ट से हमने जानने की कोशिश की है कि ये काम कैसे करता है..

अमेरिकी कंप्यूटर साइंटिस्ट और पिनस्क्रीन के फाउंडर और सीईओ हाओ ली से हमने Deepfake के बारे में बातचीत की है.

हाओ ली Furious 7 और The Hobbit सहित कई हॉलीवुड फिल्मों में विजुअल इफेक्ट के लिए फेशियल ट्रैकिंग और हेयर डिजिटाइजेशन का काम कर चुके हैं.

हाओ ली ने के मुताबिक़ अगर कोई शख़्स किसी दूसरे का फ़ेस अपने वीडियो में ख़ुद से रिप्लेस करना चाहता है तो इसके लिए दोनों के चेहरे का इमेज काफ़ी ज़्यादा मात्रा में चाहिए. इसके साथ अलग अलग पोज, एक्सप्रेशन्स और लाइटिंग कंडीशन की भी ज़रूरत होती है. इस तरह का डेटा कलेक्ट करके इन्हें डीप न्यूरल नेटवर्क से ट्रेन करना होता है.

टॉप Deepfake आर्टिस्ट और कंप्यूटर साइंटिस्ट Hao Li

रफ़्तार पकड़ रहा है Deepfake

Deepfake नया तो नहीं है, लेकिन धीरे धीरे अपनी रफ़्तार पकड़ रहा है और सोशल मीडिया पर Deepfake कॉन्टेंट तेज़ी से बढ़ रहे हैं. सोशल मीडिया और इंटरनेट कंपनियों को अभी से ही इस पर शिकंजा कसने के तरीक़ों के बारे में सोचना होगा वर्ना एक बार ये अपने पीक पर चला गया तो फिर इस पर शिकंजा कसना बेहद मुश्किल हो सकता है.

आर्टिफिशियल इंटेलिजेंस (AI) बेस्ड हैं Deepfake

AI यानी आर्टिफिशियल इंटेलिजेंस को लेकर दुनिया भर में एक्सपर्ट्स की अलग अलग राय हैं. कुछ का मानना है कि इससे दुनिया को फ़ायदा होगा, लेकिन कुछ का कहना है कि ये मानवता के लिए खतरनाक है.

डायनामाइट का उदाहरण यहां सटीक बैठता है. क्योंकि डायनामाइट का इंवेशन कंट्रोल्ड एक्स्पलोशन के लिए किया गया था, लेकिन अब इसका यूज वॉयलेंस के लिए भी किया जाता है.

डीपफेक बनाने में हमें सोर्स और टार्गेट पर्सन का पर्याप्त डेटा कलेक्ट करना होता है ताकि कुछ घटों तक उसे डीप न्यूरल नेटवर्क ट्रेन कर सकें. आम तौर पर अच्छा रिज़ल्ट टार्गेट के कुछ वीडियो क्लिप्स हासिल करके या फिर हज़ारों इमेज इकठ्ठी करके पाया जा सकता है.

टॉप Deepfake आर्टिस्ट और कंप्यूटर साइंटिस्ट Hao Li

इसी तरह से आप आर्टिफिशियल इंटेलिजेंस को भी समझ सकते हैं. क्योंकि AI बड़े काम की चीज है और ये लोगों की ज़िंदगी आसान बना सकती है.

एलोन मस्क के हेड में निकोलस केज का फेस लगाया गया है - Deepfake

नक़ली को भी समझ बैठेंगे असली, आसानी से धोखा खा सकते हैं..

बहरहाल बात करते हैं अब Deepfake की जो आर्टिफिशियल इंटेलिजेंस बेस्ड हैं. इसमें किसी भी तस्वीर, वीडियो और ऑडियो को मैनिपुलेट या छेड़छाड़ करके उसे बिल्कुल अलग बनाया जा सकता है. डीप फेक में Deep वर्ड Deep Learning से लिया गया है जो आर्टिफिशियल इंटेलिजेंस का ही एक हिस्सा है.

किसी लीडर या सेलिब्रिटी के स्पीच को उठा कर आर्टिफिशियल इंटेलिजेंस बेस्ड टूल के ज़रिए पूरी स्पीच बदली जा सकती है. आपको लगेगा कि स्पीच असली है, लेकिन आप भ्रम में पड़ जाएंगे.

इसके लिए चेहरे और हावभाव को पढ़ कर अलग अलग जगहों पर उस लीडर द्वारा दी गई स्पीच को इकठ्ठा किया जाता है. इसके बाद आर्टिफिशियल इंटेलिजेंस बेस्ड टूल के ज़रिए इसे ट्रीट किया जाता है.

उस लीडर या सेलिब्रिटी की आवाज़ को लेकर उसे अलग अलग हिस्सों में बाँटा जाता है और फिर उसे अपने हिसाब से कॉन्टेक्स्ट देने के लिए मिला कर लिप सिंक कर दिया जाता है. देखने में ऐसा लगता है कि वो लीडर या सेलिब्रिटी अपनी स्पीच में वही कह रहा है जो आप देख रहे हैं.

फ़िल्मों में भी यूज किया जाता है Deepfake

Deepfake काफ़ी समय से फ़िल्मों में यूज किया जाता रहा है. उदाहरण के तौर पर फ़ास्ट एंड फ्यूरियस ऐक्टर पॉल वॉटर की मौत के बाद उनकी फ़िल्म में पॉल वॉकर के भाई को रखा गया. लेकिन Deepfake के ज़रिए उनका चेहरा और आवाज़ बिल्कुल पॉल वॉकर की तरह कर दी गई.

इससे पहले भी और आज भी फ़िल्मों में कई जगह पर Deepfake का उपयोग होता है, ख़ास तौर पर हॉलीवुड फ़िल्मों में इसका चलन ज़्यादा है.

A - असली, C- फेस स्वैप के बाद Deepfake (Photo Courtesy :Hao Li)

टेक्निकल ऐस्पेक्ट क्या हैं..

आर्टिफिशियल इंटेलिजेंस का ही एक ब्रांच या पार्ट है मशीन लर्निंग. Deepfake वीडियो या फ़ोटोज़ बनाने के लिए इसका ज़्यादा यूज किया जाता है.

इसके लिए लोगों के हाव भाव, एक्सप्रेशन, बोलने का तरीक़ा और स्टाइल को ऐडोप्ट करने के लिए जेनेरेटिव एडवर्सरियल नेटवर्क यानी GAN का इस्तेमाल किया जाता है.

आमतौर पर जो आप Deepfake वीडियोज देखते हैं वो डीप न्यूरल नेटवर्क पर बेस्ड होता है जो AI का ही एक हिस्सा है. ये दरअसल खूब सारा डेटा में से अलग अलग पैटर्न निकाल लेता है. डेटा यानी किसी शख़्स का फ़ेस, उसकी स्पीच और हाव भाव.

Deepfake बनाने के लिए ऑटोएनकोडर नाम का न्यूरल नेटवर्क स्ट्रक्चर का यूज किया जाता है. ऑटोएनकोडर के दो हिस्से होते हैं - एनकोडर और डीकोडर.

Source: Deepfakes/Wikipedia

ऑटोएकोडर - एनकोडर और डीकोडर

एनकोडर इमेज को छोटे डेटा में तोड़ देता है तब्दील कर देता है इसे आप कंप्रेस करना भी कह सकते हैं. डीकोडर का काम होता है इस तोड़े गए या कंप्रेस किए गए डेटा को फिर से ओरिजनल बनाना.

ऑटोएनकोडर कंप्रेशन और डिकंप्रेशन के अलावा नई इमेज तैयार करना, आवाज़ को फ़ेच करने से लेकर आँखों के मूवमेंट, आईब्रोज से लेकर हर तरह की छोटी से छोटी डीटेल्स तैयार कर सकता है.

अब डीप फेक तैयार करने वाले एक्सपर्ट्स इसे यूज करके किसी भी शख़्स का नक़ली वीडियो, फ़ोटो और स्पीच तैयार कर सकते हैं और भ्रम फैला सकते हैं. इस तरह के ऐप्स और सॉफ़्टवेयर इन दिनों पॉपुलर भी हो रहे हैं.

सोशल मीडिया ऐप्स और मोबाइल फ़ोन में भी इसका चलन..

इन दिनों स्नैपचैट, इंस्टा, फ़ेसबुक से लेकर हर स्मार्टफोन्स में जो आप सेल्फ़ी कैमरे में आर्टिफिशियल इंटेलिजेंस बेस्ट ब्यूटिफिकेशन फ़ीचर देखते हैं, दरअसल ये भी डीपफेक का ही एक उदाहरण है. क्योंकि जो जैसा है वैसा दिखता नहीं और यहां से आसानी से लोगों को बेवकूफ बनाने का भी काम किया जा सकता है.

अगली कड़ी में हम आपको Deepfake के ख़तरों के बारे में बताएँगे. इसके साथ ही ये भी बताएँगे कि कैसे आफ डीप फेक की पहचान कर सकते हैं और इससे जुड़े टूल्स क्या हैं. इसके साथ ही ये भी बताएंगे की Deepfake आप कैसे तैयार कर सकते हैं.

आजतक के नए ऐप से अपने फोन पर पाएं रियल टाइम अलर्ट और सभी खबरें डाउनलोड करें