AI से फोटो-वीडियो बनाकर फैलाया झूठ तो होगी कार्रवाई, सरकार ने बदले नियम, लेकिन कंपनियां कब मानेंगी?

सोशल मीडिया पर Deepfake और AI वीडियोज कोरोना वायरस की तरह फैल रहे हैं. असली और नकली में पहचान करना मुश्किल हो रहा है. किसी नेता, अभिनेता या आम इंसान को ऐसी बातें करते हुए दिखाया गया है जो उसने कभी कही ही नहीं, तो हो सकता है कि वह डीपफेक हो. इन्हें लेकर सरकार भी लगातार चिंता जता रही है. सरकार ने पहले भी इसे लेकर सख्ती जताई थी, लेकिन अब तक कोई टेक कंपनी सुनने का नाम नहीं ले रही है. अभी भी AI वीडियोज पर सिंथेटिक कंटेंट का लेबल नहीं देखने को मिलता है और ना ही तीन घंटे में कोई प्लेटफॉर्म कंटेंट हटाता है.

PIB की एक ताजा प्रेस रिलीज के मुताबिक इलेक्ट्रॉनिक्स और आईटी मंत्रालय (MeitY) ने बताया है कि 10 फरवरी 2026 से ही IT Rules में बदलाव किए गए हैं. इस बदलाव की वजह से AI से बनने वाले Deepfake और दूसरे सिंथेटिक कंटेंट पर रोक लगाई जा सकेगी. सरकार का कहना है कि इन नियमों का मकसद इंटरनेट को सुरक्षित, भरोसेमंद और जवाबदेह बनाना है. दरअसल सराकर ने पहले भी डीपफेक कंटेंट को लेकर कड़े गाइडलाइन बनाए थे, लेकिन इंपोज होते नहीं दिखे. 

सबसे बड़ा बदलाव यह है कि अब AI से तैयार किए गए कंटेंट पर साफ लेबल लगाना जरूरी होगा. यानी अगर कोई फोटो, वीडियो या ऑडियो AI की मदद से बनाया गया है तो प्लेटफॉर्म को इसकी पहचान दिखानी होगी. इसके साथ ही ऐसे कंटेंट में ट्रेसेबल मेटाडेटा भी रखना होगा ताकि जरूरत पड़ने पर उसकी पहचान की जा सके. 

3 घंटे के अंदर हटाना होगा गैरकानूनी कंटेंट

सरकार ने गैरकानूनी कंटेंट हटाने की समय सीमा भी काफी कम कर दी है. पहले किसी कोर्ट या सरकार के आदेश के बाद ऐसा कंटेंट हटाने के लिए सोशल मीडिया कंपनियों के पास 36 घंटे का समय होता था. अब यह समय घटाकर सिर्फ 3 घंटे कर दिया गया है. वहीं शिकायतों के निपटारे की समय सीमा भी कम की गई है. खास मामलों जैसे न्यूडिटी, फर्जी पहचान या Deepfake से जुड़ी शिकायतों पर पहले से कहीं ज्यादा तेजी से कार्रवाई करनी होगी.

नए नियमों में सोशल मीडिया कंपनियों को यह भी कहा गया है कि वे ऐसे तकनीकी सिस्टम लगाएं जो AI से बने गैरकानूनी कंटेंट की पहचान कर सकें और उसे फैलने से रोक सकें. बड़ी सोशल मीडिया कंपनियों को ऑटोमैटेड टूल्स का इस्तेमाल करना होगा ताकि ऐसे कंटेंट को पहले ही पकड़ा जा सके.

AI कंटेंट पर होगा ऐक्शन!

सरकार ने साफ कहा है कि बच्चों से जुड़े यौन शोषण वाले कंटेंट, बिना अनुमति किसी की निजी तस्वीर या वीडियो बनाने, किसी की पहचान बनकर फर्जी कंटेंट तैयार करने और दूसरे नुकसान पहुंचाने वाले AI कंटेंट पर तुरंत कार्रवाई करनी होगी. ऐसे कंटेंट को रोकना और हटाना प्लेटफॉर्म की जिम्मेदारी होगी.

अगर कोई सोशल मीडिया कंपनी इन नियमों का पालन नहीं करती है तो उसे IT Act की धारा 79 के तहत मिलने वाली "सेफ हार्बर" सुरक्षा भी खोनी पड़ सकती है. इसका मतलब है कि ऐसे मामलों में कंपनी के खिलाफ कानूनी कार्रवाई की जा सकती है.

सरकार ने यह भी दोहराया कि IT Act 2000 और भारतीय न्याय संहिता (BNS) में पहले से ही पहचान चोरी, फर्जीवाड़ा, किसी और की पहचान बनकर धोखाधड़ी, गलत जानकारी फैलाने, अश्लील कंटेंट और ऑनलाइन अपराधों से जुड़े कई प्रावधान मौजूद हैं. Deepfake से जुड़े मामलों में भी इन्हीं कानूनों के तहत कार्रवाई की जा सकती है.

यूजर्स GAC में कर सकते हैं शिकायत

अगर किसी यूजर की शिकायत सोशल मीडिया कंपनी नहीं सुनती है तो वह ग्रिवांस अपीलिएट कमिटी (GAC) में ऑनलाइन अपील कर सकता है. इसके अलावा डीपफेक, साइबर फ्रॉड या दूसरे साइबर अपराधों की शिकायत नेशनल साइबर क्राइम रिपोर्टिंग पोर्टल पर की जा सकती है. सरकार ने इसके लिए 1930 हेल्पलाइन भी उपलब्ध कराई है.

सरकार का कहना है कि AI से जुड़े खतरों से निपटने के लिए रिसर्च पर भी काम कर रही है. IndiaAI Mission के तहत IIT जोधपुर, IIT मद्रास और IIT खड़गपुर जैसे संस्थानों में डीपफेक पहचानने वाली तकनीक पर कई प्रोजेक्ट चल रहे हैं. इनमें वीडियो और ऑडियो डीपफेक पकड़ने वाले सिस्टम विकसित किए जा रहे हैं. इसके अलावा सरकार समय-समय पर सोशल मीडिया कंपनियों को एडवाइजरी भी जारी कर रही है. हाल के महीनों में धार्मिक मामलों, AI से बने भ्रामक कंटेंट और बिना अनुमति शेयर की गई निजी तस्वीरों और वीडियो को लेकर भी दिशा-निर्देश जारी किए गए हैं.

Follow us on