मेटा ने बुधवार को बताया कि 2026 की पहली छमाही में उसने भारत में बच्चों के यौन शोषण से जुड़े 5.3 मिलियन यानी 53 लाख कंटेंट पर कार्रवाई की. कंपनी के ब्लॉग पोस्ट के मुताबिक फेसबुक और इंस्टाग्राम पर भारत में मिले इस तरह के 98 फीसदी से ज्यादा कंटेंट को किसी के शिकायत करने से पहले ही पकड़ लिया गया. मेटा ने ऐसे विज्ञापनों को परखने के लिए नए एआई टूल भी लगाए हैं, जो सामान्य दिखते हैं लेकिन लोगों को गैरकानूनी सामग्री तक पहुंचा देते हैं.
दुनिया भर की बात करें तो जनवरी से जून के बीच दोनों प्लेटफॉर्म पर ऐसे 3.32 करोड़ कंटेंट पर कार्रवाई हुई. इनमें 97 फीसदी से ज्यादा कंटेंट पहले ही खोज लिए गए थे.
मेटा के मुताबिक अपराधियों ने अब तरीका बदल लिया है और वे विज्ञापनों का इस्तेमाल कर रहे हैं. ऐसा विज्ञापन अकेले देखने पर बिल्कुल आम लगता है, लेकिन उससे लोग मेटा के प्लेटफॉर्म के बाहर रखी गैरकानूनी सामग्री तक पहुंच जाते हैं. यह चाल पकड़ में आने के बाद कंपनी ने सिर्फ शिकायत मिले विज्ञापनों तक सीमित न रहकर जांच बढ़ाई, इनके पीछे के अकाउंट बंद किए और बाहरी लिंक ब्लॉक कर दिए.
यह भी पढ़ें: बच्चों के यौन शोषण से जुड़े कंटेंट मामले में NCPCR सख्त, Meta इंडिया के MD-हेड तलब
नए उपायों में एक लार्ज लैंग्वेज मॉडल सिस्टम है, जो "साइनपोस्टिंग" पकड़ता है. यानी ऐसा विज्ञापन कंटेंट जो हानिरहित दिखता है लेकिन जिस पर पक्का शक है कि वह लोगों को गैरकानूनी सामग्री की तरफ भेज रहा है. कंपनी अब यह भी परखती है कि विज्ञापन लोगों को कहां ले जाता है, सिर्फ यह नहीं कि उसमें क्या दिख रहा है. एआई की मदद से ऐसी सफाई भी की जा रही है, जो पुराने सिस्टम से छूटी सामग्री को सामने लाए. एक रेड टीमिंग एआई एजेंट मेटा की अपनी सुरक्षा में कमजोरियां ढूंढता है. प्रतिबंधित यूजर्स अक्सर नया अकाउंट बनाकर लौट आते हैं, इसलिए ऐसे लोगों को पहचानने की व्यवस्था भी मजबूत की गई है.
मेटा ने कहा, "युवाओं को हमारे ऐप्स पर सुरक्षित रखना हमारे सबसे जरूरी कामों में से एक है और यह काम कभी रुकता नहीं."
यह खुलासा ऐसे समय आया है जब सरकार बाल यौन शोषण सामग्री के खिलाफ सख्ती कर रही है. जुलाई में आईटी मंत्रालय ने इंस्टाग्राम पर ऐसे विज्ञापनों को लेकर मेटा को नोटिस जारी किया था और उन्हें हटाने का आदेश दिया था. मंत्रालय ने कंपनी के वैश्विक अधिकारियों को भारत भी बुलाया था. इसके बाद मेटा बाल सुरक्षा के मामलों की जानकारी सीधे I4C साइबर अपराध पोर्टल पर देने के लिए राजी हो गया है.