एलॉन मस्क के Grok Ai को दो मुस्लिम देशों ने किया बैन, अश्लील कंटेंट पर बड़ा एक्शन

Elon Musk के AI चैटबॉट Grok को लेकर वैश्विक स्तर पर बढ़ते विवाद के बीच इंडोनेशिया के बाद अब मलेशिया ने भी इस टूल पर सख्त कार्रवाई की है. मलेशिया के टेक्नोलॉजी रेगुलेटर ने रविवार को Grok AI तक देश में पहुंच अस्थायी रूप से निलंबित कर दी. वजह है AI के जरिए तैयार किया गया अश्लील और यौन शोषण से जुड़ा कंटेंट.

मलेशिया कम्युनिकेशंस एंड मल्टीमीडिया कमीशन (MCMC) ने बयान जारी कर कहा कि Grok का बार-बार दुरुपयोग कर महिलाओं और नाबालिगों से जुड़ी अश्लील, आपत्तिजनक और बिना सहमति के बदली गई तस्वीरें बनाई जा रही थीं. आयोग ने कहा, "इस तरह का कंटेंट न सिर्फ कानून के खिलाफ है, बल्कि सामाजिक और नैतिक मूल्यों के भी विरुद्ध है."

यह भी पढ़ें: 'अश्लील कंटेंट को परमिशन नहीं... 600 अकाउंट्स डिलीट , Grok विवाद पर Elon Musk के X का बड़ा फैसला

रेगुलेटर के मुताबिक, X Corp और xAI को पहले भी औपचारिक नोटिस और चेतावनियां दी गई थीं, लेकिन इसके बावजूद पर्याप्त सुरक्षा उपाय लागू नहीं किए गए. इसी कारण Grok पर तत्काल प्रभाव से रोक लगाने का फैसला किया गया. मलेशिया में रविवार को जब AFP रिपोर्टर ने Grok पर कोई प्रॉम्प्ट डाला, तो AI की ओर से कोई जवाब नहीं मिला.

Grok से बदलाव की अपील

मलेशियाई रेगुलेटर ने साफ किया कि जब तक प्लेटफॉर्म अपने सुरक्षा इंतजामों में जरूरी बदलाव नहीं करता और उनकी पुष्टि नहीं हो जाती, तब तक Grok की सेवाएं बहाल नहीं होंगी. आयोग ने यह भी आरोप लगाया कि Grok की डिजाइन और संचालन में "रिस्क" हैं और कंपनी ज्यादातर यूजर-रिपोर्टिंग सिस्टम पर ही निर्भर रही है, जो नाकाफी साबित हुआ.

यह भी पढ़ें: AI ने पार की हद! वायरल तस्वीरों पर क्रिकेटर प्रतीका रावल का फूटा गुस्सा, Grok को दिया अल्टीमेटम

इंडोनेशिया ने भी लगाया Grok पर बैन

इससे पहले शनिवार को इंडोनेशिया Grok पर पूरी तरह प्रतिबंध लगाने वाला पहला देश बना था. इंडोनेशिया सरकार ने कहा था कि AI के जरिए बनाए जा रहे यौन शोषण वाले डीपफेक कंटेंट मानवाधिकार, गरिमा और डिजिटल सुरक्षा का गंभीर उल्लंघन हैं. इंडोनेशिया, जहां दुनिया की सबसे बड़ी मुस्लिम आबादी रहती है, वहां ऑनलाइन अश्लील कंटेंट पर सख्त कानून लागू हैं.