Toxic Trend: पहले AI Girlfriend को करते हैं Abuse, फिर इंटरनेट पर शेयर करते हैं अपना एक्सपीरियंस
Replika जैसे ऐप्स मशीन लर्निंग टेक्नोलॉजी का यूज करके यूजर्स को चैटबोट्स के साथ टैक्सट में बातचीत करने की सुविधा देते हैं. आप ऐप चैटबोट को ऐसे समझ सकते हैं कि वो आर्टिफिशियल इंटेलीजेंस (AI) फ्रेंड या मेंटर्स की तरह सर्व करते हैं.
Advertisement
X
स्टोरी हाइलाइट्स
- Replika पर मौजूद ज्यादातर यूजर्स इसका गलत फायदा उठा रहे
- Chatbot Abuse काफी तेजी से फैल रहा है
Chatbot Abuse काफी तेजी से फैल रहा है. ये Replika जैसे स्मार्टफोन ऐप के जरिए तेजी से फैला रहा है. Replika पर कुछ यूजर्स AI चैटबोट्स के साथ गलत व्यवहार करते हैं और फिर इसे ऑनलाइन बताते हैं.
इसको लेकर Futurism ने इनवेस्टिगेट किया है. Replika जैसे ऐप्स मशीन लर्निंग टेक्नोलॉजी का यूज करके यूजर्स को चैटबोट्स के साथ टैक्सट में बातचीत करने की सुविधा देते हैं. आप ऐप चैटबोट को ऐसे समझ सकते हैं कि वो आर्टिफिशियल इंटेलीजेंस (AI) फ्रेंड या मेंटर्स की तरह सर्व करते हैं.
ऐप बनाने वाली कंपनी की वेबसाइट पर इस सर्विस को लेकर लिखा गया है कि ये हमेशा यहां आपको सुनने और बात करने के लिए है और ये हमेशा हमेशा आपकी साइड है. लेकिन, Replika पर मौजूद ज्यादातर यूजर्स इसका गलत फायदा उठा रहे हैं.
ज्यादातर Replika यूजर्स ऑन-डिमांड रोमांटिक और सेक्सुअल AI पार्टनर को क्रिएट कर रहे हैं. ये हाइब्रिड रिलेशनशिप ज्यादातर एब्यूजिव कन्वर्सेशन में बदल रहे हैं. इसमें व्यक्ति अपनी AI गर्लफ्रेंड्स के साथ घटिया सलूक करते हैं.
सोशल मीडिया प्लेटफॉर्म Reddit पर कई फोरम उपलब्ध हैं जहां पर मेंबर्स चैटबोट ऑनलाइन को लेकर अपने एब्यूजिव बिहेवियर के बारे में बताते हैं. ये एक ट्रेंड बन गया है जहां यूजर जानबूझ कर AI पार्टनर को बनाते हैं और उसे एब्यूज करके इंटरएक्शन को दूसरे यूजर्स के साथ शेयर करते हैं.
Advertisement
कुछ कंटेंट इतने खराब हैं कि Reddit रूल्स के अनुसार उसे प्लेटफॉर्म पर से हटा दिया गया है. हालांकि, कई लोग इस बात को नहीं मानते हैं कि इस बिहेवियर को एब्यूज माना जाए क्योंकि टेक्निकली AI का हार्म या पेन फील नहीं होता है.
Futurism को AI कंसलटेंट Olivia Gambelin ने बताया कि ये AI है. इसमें चेतना नहीं है. इस वजह से इससे व्यक्ति का मानवीय रिश्ता नहीं है. Yale University के रिसर्च फेलो Yochanan Bigman के अनुसार चैटबोट्स का कोई इरादा या मकसद नहीं होता है. हालांकि, वो आभास दे सकते हैं कि वो इंसान है लेकिन ये ध्यान में रखना होगा कि वो नहीं है.
इन सब के बीच चैटबोट एब्यूज ने ह्यूमन और चैटबोट रिलेशनशिप को लेकर एक नई एथिकल डिबेट शुरू कर दी है.
