आर्टिफिशियल इंटेलिजेंस के जिस गलत इस्तेमाल का डर लोगों को सता रहा था, उसके परिणाम सामने आने लगे हैं. महाराष्ट्र के पालघर में AI का इस्तेमाल करके अश्लील वीडियो बनाने का मामला सामने आया है. यहां एक पुलिसकर्मी के दो बेटों ने AI का इस्तेमाल करके महिलाओं और लड़कियों के अश्लील वीडियो बनाए हैं.
इतना ही नहीं इन वीडियोज को सोशल मीडिया पर भी सर्कुलेट किया गया. इसका विरोध करने पर पीड़िताओं के साथ मारपीट भी की गई. शिकायत के बाद पुलिस ने दोनों आरोपियों को गिरफ्तार कर लिया, लेकिन इसके साथ ही एक नई चुनौती लोगों के सामने आती दिख रही है.
सोशल मीडिया पर इस तरह के कई मामले देखने को मिल रहे हैं, जहां AI का इस्तेमाल करके आपकी तस्वीर को गलत रूप दिया जा सकता है. अगर कोई शख्स इस तरह का वीडियो एडिट करता है, तो उनके खिलाफ कानूनी कार्रवाई हो सकती है. इस तरह के मामले कई धाराओं के साथ मामला दर्ज हो सकता था.
इस तरह के मामलों में IT Act, IPC की विभिन्न धाराओं और डेटा प्रोटेक्शन लॉ के तहत केस हो सकता है. एक साइबर एक्सपर्ट्स ने बताया कि आई टी एक्ट की धारा 67 के अंतर्गत यदि इंटरनेट पर किसी भी प्रकार की कोई आपत्तिजनक वीडियोज पोस्ट की जाती है तो व्यक्ति पर कार्रवाई करने का प्रावधान है.
इस धारा के तहत तीन साल तक की सजा और जुर्माने का भी प्रावधान है और यह सज़ा बढ़ाई भी जा सकती है. आपके शेयर किए वीडियो से जिस शख्स की छवि खराब होती है, वो आप पर मानहानि का भी केस कर सकता है.
हमने जिस मामले की बात इस आर्टिकल की शुरुआत में की है, उसमें पुलिस ने अपराधियों के खिलाफ कई मामलों में केस दर्ज किया है. इसमें यौन अपराधों से बच्चों के संरक्षण अधिनियम (POCSO) की धाराओं के तहत भी केस दर्ज किया गया है.
अगर कोई इस तरह के अपराध का शिकार हो जाएं, तो साइबर क्राइम संबंधित थाना से संपर्क कर शिकायत दर्ज करा सकते हैं. इसके अलावा यूजर्स को सोशल मीडिया पर अपनी फोटोज को शेयर करते वक्त थोड़ा सवाधान रहने की भी जरूरत है. अगर आपको किसी सोशल मीडिया प्लेटफॉर्म पर अपनी फोटोज मिलती हैं, तो भी आप वहां भी रिपोर्ट कर सकते हैं.
हर फोटोज के साथ आपको कई सारे ऑप्शन मिलते हैं. अगर आपको फेसबुक पर अपना कोई आपत्तिजनक वीडियो या फोटो मिलती है, तो आप उसे रिपोर्ट कर सकते हैं. इसके साथ ही आप उस प्लेटफॉर्म के कस्टमर केयर से भी संपर्क कर सकते हैं और अपना वीडियो या फोटो रिमूव करने के लिए रिक्वेस्ट कर सकते हैं.
ये भी पढ़ें- AI खत्म कर रहा जॉब्स! ChatGPT की वजह से गई महिला की नौकरी, तीन महीनों से है बेरोजगार
सोशल मीडिया पर आपको ऐसे कई सबूत मिलते हैं, जिससे पता चलता है कि लोग AI का गलत इस्तेमाल कर रहे हैं. इसमें डीपफेक वीडियो, मॉर्फ वीडियो और बच्चों के अश्लील वीडियो शामिल हैं. पीडोफाइल्स (बच्चों के प्रति यौन आकर्षण रखने वाले) के कई ग्रुप इंस्टाग्राम और दूसरे सोशल मीडिया प्लेटफॉर्म्स पर एक्टिव हैं.
इतना ही नहीं डार्क वेब पर इसका पूरा कारोबार चल रहा है. सोशल मीडिया पर लोगों को इस तरह के कंटेंट का पेड एक्सेस दिया जा रहा है. सोशल मीडिया कंपनियां ऐसे अकाउंट्स पर कार्रवाई कर रही हैं, लेकिन फिर भी ऐसे अकाउंट्स की भरमार है. इसलिए बेहतर होगा आप अपनी फोटोज को शेयर करते हुए सतर्क रहें.