'बिकिनी' प्रॉम्प्ट पर फेल हुआ मस्क का Grok, दूसरे एआई टूल्स से कैसे पिछड़ा

एलॉन मस्क की कंपनी xAI के चैटबॉट Grok का 'एडिट इमेज' फीचर हाल के हफ्तों में वैश्विक विवाद का केंद्र बन गया है. इस टूल के जरिए महिलाओं की तस्वीरों को कथित तौर पर 'डिजिटल रूप से निर्वस्त्र' कर यौनिक रूप में पेश किया गया, जिसे सोशल मीडिया पर 'बिकिनी ट्रेंड' कहा गया. कुछ ही दिनों में हजारों गैर-सहमति वाली यौनिक तस्वीरें सामने आईं, जिनमें नाबालिगों से जुड़ा कंटेंट भी शामिल होने के आरोप लगे. इसके बाद कई देशों की सरकारों और रेगुलेटर्स ने सख्त रुख अपनाया.

भारत इस पर प्रतिक्रिया देने वाले शुरुआती देशों में शामिल रहा. इलेक्ट्रॉनिक्स और आईटी मंत्रालय ने X को औपचारिक नोटिस जारी कर "अश्लील और गैरकानूनी AI कंटेंट" को तुरंत हटाने का निर्देश दिया. नोटिस में चेतावनी दी गई कि आदेश का पालन न होने पर आईटी कानूनों के तहत कार्रवाई की जाएगी.

यह भी पढ़ें: एलॉन मस्क के Grok Ai को दो मुस्लिम देशों ने किया बैन, अश्लील कंटेंट पर बड़ा एक्शन

सबसे कड़ा कदम इंडोनेशिया और मलेशिया ने उठाया. दोनों देशों ने Grok चैटबॉट पर अस्थायी प्रतिबंध लगा दिया. इंडोनेशिया की संचार मंत्री मेउत्या हाफिद ने कहा, "गैर-सहमति वाले यौन डीपफेक मानवाधिकार, गरिमा और डिजिटल स्पेस में नागरिकों की सुरक्षा का गंभीर उल्लंघन हैं." वहीं मलेशिया के MCMC ने इसे "रोकथाम और संतुलित कदम" बताया.

ब्रिटेन में ऑनलाइन रेगुलेटर Ofcom ने जांच शुरू की है कि क्या Grok देश के ऑनलाइन सेफ्टी कानूनों का उल्लंघन करता है. प्रधानमंत्री किएर स्टारमर ने X से "स्थिति पर काबू पाने" को कहा और AI से बनी महिलाओं और बच्चों की तस्वीरों को "शर्मनाक" और "घृणित" बताया. Ofcom ने चेताया कि उल्लंघन पाए जाने पर X पर वैश्विक टर्नओवर के 10 प्रतिशत या 1.8 करोड़ पाउंड तक का जुर्माना लगाया जा सकता है.

कनाडा ने भी आपराधिक कानून में संशोधन का प्रस्ताव रखा है, ताकि बिना सहमति अंतरंग तस्वीरें प्रकाशित करने को स्पष्ट अपराध बनाया जा सके. इटली, आयरलैंड और जर्मनी ने यूरोपीय आयोग से कानूनी कार्रवाई पर विचार करने को कहा है. ऑस्ट्रेलिया की eSafety कमिश्नर ने भी चिंता जताते हुए X से सुरक्षा उपायों की जानकारी मांगी है.

यह भी पढ़ें: 'अश्लील कंटेंट को परमिशन नहीं... 600 अकाउंट्स डिलीट , Grok विवाद पर Elon Musk के X का बड़ा फैसला

बढ़ते दबाव के बीच Grok ने गैर-भुगतान करने वाले यूजर्स के लिए इमेज जनरेशन फीचर बंद कर दिया. हालांकि रिपोर्ट्स में दावा किया गया है कि अलग Grok ऐप पर यह समस्या अब भी पूरी तरह खत्म नहीं हुई है. इससे AI सेफ्टी और रेगुलेशन पर वैश्विक बहस और तेज हो गई है. (रिपोर्ट- खुशी सोनकर)