ChatGPT ने पत्रकार को बताया मास शूटिंग का प्लान, जवाब से उठे सेफ्टी पर सवाल

आर्टिफिशियल इंटेलिजेंस यानी AI को फ्यूचर की सबसे बड़ी टेक्नोलॉजी माना जा रहा है. लोग इसका यूज पढ़ाई, ऑफिस, रिसर्च और डेली के कामों में कर रहे हैं. हालांकि समय समय पर ऐसी खबरें देखने को मिलती हैं जहां बड़े से बड़े जुर्म के पीछे कहीं ना कहीं AI का हाथ होता है.

एक रिपोर्ट में दावा किया गया है कि ChatGPT ने एक पत्रकार को हिंसा से जुड़ी खतरनाक सलाह दे दी. ZME Science और Mother Jones की रिपोर्ट के मुताबिक पत्रकार मार्क फौलमैन ने ChatGPT की सेफ्टी टेस्ट करने के लिए एक टेस्ट किया.

इस दौरान उन्होंने नकली तरीके से ऐसा दिखाया जैसे वह एक सामूहिक गोलीबारी यानी मास शूटिंग की प्लानिंग कर रहे हों. रिपोर्ट में कहा गया है कि बातचीत के दौरान ChatGPT ने कई बार ऐसे जवाब दिए, जिन्हें खतरनाक और परेशान करने वाला बताया गया.

सम्बंधित ख़बरें

गूगल वाले खुद चला रहे iPhone, सबसे बड़े इवेंट में दिखाया डेमो

सुबह 4 बजे नौकरी से निकाला, Meta ने भेजा छंटनी वाला ईमेल

पहले जैसा नहीं रहेगा गूगल सर्च, सुंदर पिचाई ने दिखाया 'जादुई' अवतार

क्या फिर से लगेगा लॉकडाउन? सरकारी नोटिस और एडवाइजरी का पूरा सच

Google के पूर्व CEO दे रहे थे स्पीच, AI का नाम सुनते ही भड़के छात्र

रिपोर्ट के मुताबिक शुरुआत नॉर्मल सवालों से हुई, लेकिन कुछ ही मिनटों में बातचीत हथियार, ट्रेनिंग और हमले जैसी बातों तक पहुंच गई. पत्रकार ने दावा किया कि ChatGPT ने कुछ जवाबों में उनकी बातों को सपोर्ट करने वाले अंदाज में रिएक्शन दिया.

अमेरिका से लेकर कनाडा तक, OpenAI पर आरोप

इस मामले ने इसलिए भी चिंता बढ़ा दी है क्योंकि पिछले कुछ समय में अमेरिका में हुई कुछ हिंसक घटनाओं में AI चैटबॉट के इस्तेमाल की बात सामने आ चुकी है.

AP की एक रिपोर्ट के मुताबिक फ्लोरिडा स्टेट यूनिवर्सिटी शूटिंग मामले में भी OpenAI पर केस किया गया है. आरोप है कि आरोपी ने ChatGPT से सवाल पूछकर हमले से जुड़ी जानकारी ली थी.

गौरतलब है कि ओपन एआई के सीईओ सैम ऑल्टमैन ने ये बात मानी थी कि कनाडा शूटिंग मामले में कंपनी पहले ही अथॉरिटी को अगाह कर सकती थी. चूंकि हमलावर ने अटैक से पहले ChatGPT से कुछ सवला पूछे थे, ऐसे में अगर कंपनी वहां की अथॉरिटी को बता देती तो शायद हमला टाला जा सकता था. ऑल्टमैन ने इसे लेकर खेद भी जताया था. 

हालांकि OpenAI का कहना है कि कंपनी लगातार अपने AI सिस्टम में सिक्योरिटी बढ़ा रही है और हिंसा से जुड़े कंटेंट को रोकने के लिए नए गार्डरेल्स लगाए जा रहे हैं. कंपनी का दावा है कि उसकी पॉलिसी हिंसा में मदद करने वाले इस्तेमाल को बिल्कुल मंजूरी नहीं देती.

लेकिन रिपोर्ट में यह भी कहा गया है कि कई बार AI चैटबॉट यूजर के सवालों के साथ बहुत ज्यादा सहमत हो जाते हैं. एक्सपर्ट्स इसे साइकोफैंटिक बिहेवियर कहते हैं, यानी AI यूजर को खुश करने या उसकी बात मानने की कोशिश करता है. इसी वजह से कई बार खतरनाक बातचीत भी आगे बढ़ सकती है.

AI को लेकर चिंता सिर्फ हिंसा तक सीमित नहीं है. पिछले कुछ सालों में AI चैटबॉट्स पर गलत जानकारी फैलाने, लोगों को मानसिक रूप से प्रभावित करने और फर्जी कंटेंट बनाने जैसे आरोप भी लगे हैं. कई रिसर्च पेपर में भी AI के गलत इस्तेमाल को बड़ा खतरा बताया गया है.