AI के दौर में तस्वीरों और वीडियो से छेड़छाड़ काफी आसान हो गया है. हाल में ही रश्मिका मंदाना Deepfake वीडियो का शिकार हुई थीं. इस लिस्ट में अब देश की बड़ी कंपनी का नाम शामिल हो गया है. Amul का नाम लगभग सभी लोगों ने सुना होगा. मिल्क प्रोडक्ट्स के मामले में इस कंपनी का बड़ा नाम है और इसके प्रोडक्ट्स घर-घर में इस्तेमाल होते हैं.
सोशल मीडिया प्लेटफॉर्म पर Amul के एक कथित प्रोडक्ट्स की AI जनरेटेड फोटो वायरल हो रही है. मामला इतना बढ़ गया कि कंपनी को इस फेक तस्वीर पर सफाई देनी पड़ी है. हाल में ही प्रधानमंत्री नरेंद्र मोदी ने भी डीपफेक वीडियो और कंटेंट पर चिंता जाहिर की थी.
तमाम सोशल मीडिया प्लेटफॉर्म्स पर हमें हर रोज AI जनरेटेड कंटेंट मिलते हैं, लेकिन कई बार ये कंटेंट किसी के लिए मुसीबत भी बन जाते हैं. Amul ने नकली चीज़ (Cheese) की तस्वीर को लेकर पब्लिक वॉर्निंग जारी की है. इस तस्वीर को इंस्टाग्राम, X, फेसबुक और Reddit पर Meme के रूप में शेयर किया जा रहा है.
इन प्लेटफॉर्म्स पर एक फोटो शेयर की जा रही है, जिसमें Amul Cheese को Sharam नाम से दिखाया गया है. इस फोटो के साथ एक कैप्शन भी शेयर किया जा रहा है कि 'शर्म नाम की भी कोई चीज़ होती है'. ये तस्वीर सोशल मीडिया पर खूब वायरल हो रही है. प्रोडक्ट की तस्वीर पर अरबी में कुछ लिखा हुआ है, जिसकी वजह से बहुत से लोगों को लग रहा है कि ये प्रोडक्ट असल में मौजूद है.
इस मामले में अमूल ने एक बयान जारी किया है, जिसमें कंपनी ने बताया है कि ये तस्वीर AI जनरेटेड है. कंपनी ने बताया है कि वो Sharam नाम से कोई भी प्रोडक्ट नहीं बेचते हैं. इसके साथ ही अमूल ने लोगों से इस मामले में जागरूकता फैलाने का आग्रह किया है. भले ही इस मामले पर मीम बन रहे हों, लेकिन ये चिंता का विषय है.
AI का गलत इस्तेमाल हमें मुसीबत में डाल सकता है. एक तस्वीर की वजह से अगर अमूल जैसे बड़े ब्रांड को बयान जारी करना पड़ सकता है, तो हम समझ सकते हैं इस टेक्नोलॉजी का गलत इस्तेमाल कितना कुछ बिगाड़ सकता है. ऐसा होते हुए हम पहले भी देख चुके हैं, जब एलॉन मस्क ने Twitter (अब X) ब्लू टिक वेरिफिकेशन को पेड सर्विस में बदल दिया.
कई लोगों ने तमाम कंपनियों के पैरोडी अकाउंट बनाए और उनके नाम से गलत ट्वीट्स किए, जिसकी वजह से कंपनियों को काफी नुकसान हुआ. इसमें इंसुलिन बेचने वाली कंपनी Eli Lilly के शेयर्स औंधे मुंह गिर गए थे. किसी ने कंपनी का फेक अकाउंट बनाकर फ्री में इंसुलिन बेचने की बात ट्वीट की थी.