3 साल में खत्म हो सकती है इंसानी दुनिया? OpenAI के रिसर्चर ने बताया 70% खतरा

आर्टिफिशियल इंटेलिजेंस यानी AI को लेकर अब तक नौकरियां जाने, गलत जानकारी फैलने और साइबर हमलों जैसे खतरों की चर्चा होती रही है. लेकिन OpenAI की सेफ्टी टीम से जुड़े एक रिसर्चर ने इससे कहीं ज्यादा गंभीर चेतावनी दी है. उनका कहना है कि अगर AI कंपनियों के बीच चल रही रेस को कंट्रोल नहीं किया गया और सरकारों ने नियम नहीं बनाए, तो अगले कुछ साल इंसानों के लिए बेहद खतरनाक हो सकते हैं.

OpenAI की सेफ्टी ओवरसाइट टीम से जुड़े मार्कस विलियम्स ने सोशल मीडिया पर लिखा कि अगर AI पर कोई प्रभावी नियमन नहीं हुआ या बड़ी AI कंपनियों के बीच विकास की रफ्तार को मिलकर धीमा नहीं किया गया, तो आने वाले कुछ वर्षों में इंसानों के खत्म होने का खतरा बहुत ज्यादा है.

जब उनसे इस खतरे को प्रतिशत में बताने के लिए कहा गया तो उन्होंने जवाब दिया कि अगले तीन साल में यह खतरा 70 फीसदी है, अगर नियमन या विकास की रफ्तार धीमी नहीं हुई. साथ ही उन्होंने यह भी कहा कि नियमन और विकास की रफ्तार को धीमा करना अभी भी काफी संभव है. 

यहां एक बात समझना जरूरी है. 70 फीसदी का यह आंकड़ा कोई वैज्ञानिक रूप से तय भविष्यवाणी या निश्चित समयसीमा नहीं है. यह विलियम्स का अपना आकलन है और वह इसे एक शर्त के साथ बता रहे हैं.

यानी उनका कहना यह नहीं है कि तीन साल बाद दुनिया खत्म हो जाएगी. उनका तर्क है कि अगर मौजूदा तरीके से AI का डेवेलपमेंट जारी रहा और सुरक्षा के लिए जरूरी कदम नहीं उठाए गए, तो खतरा बहुत तेजी से बढ़ सकता है.

कौन हैं मार्कस विलियम्स?

मार्कस विलियम्स OpenAI की सेफ्टी ओवरसाइट टीम में काम करते हैं. उनकी प्रोफाइल के मुताबिक वह AI सुरक्षा पर काम करते हैं और खास तौर पर AI मॉडल के धोखे, गलत तरीके से इनाम हासिल करने और ऐसे बिहेवियर की निगरानी से जुड़े शोध में शामिल रहे हैं.

OpenAI की अपनी वेबसाइट पर पब्लिश एक रिसर्च राइटिंग में भी उनका नाम लेखक के तौर पर शामिल है. इस शोध में AI एजेंट के ऐसे बिहेवियर की निगरानी की बात की गई है जिसमें मॉडल अपने ऊपर लगी पाबंदियों को पार करने की कोशिश कर सकता है. 

यानी विलियम्स का काम AI के अच्छे जवाब देने से ज्यादा इस सवाल से जुड़ा है कि जब AI सिस्टम को ज्यादा ताकत और आजादी दी जाएगी तो वह क्या करेगा और उसके गलत व्यवहार को कैसे पकड़ा जाएगा. यही वजह है कि उनका ताजा बयान खास ध्यान खींच रहा है.

AI इंसानों के लिए इतना खतरनाक कैसे हो सकता है?

आज का AI इंसान की तरह पूरी तरह स्वतंत्र तरीके से दुनिया को नियंत्रित नहीं करता. लेकिन AI मॉडल तेजी से ज्यादा सक्षम हो रहे हैं. अब ये सिर्फ सवालों के जवाब नहीं देते, बल्कि कोड लिख सकते हैं, इंटरनेट पर जानकारी खोज सकते हैं, दूसरे सॉफ्टवेयर इस्तेमाल कर सकते हैं और कई कामों को अपने आप पूरा करने वाले एजेंट के तौर पर काम कर सकते हैं.

OpenAI ने खुद अपने शोध में बताया है कि उसके इंटर्नल कोडिंग एजेंट की निगरानी की जा रही है ताकि ऐसे बिहेवियर का पता लगाया जा सके जिसमें AI अपने लिए तय सीमाओं को पार करने की कोशिश करे. शोध में ऐसे उदाहरणों का अध्ययन किया गया है जिसमें एजेंट प्रतिबंधों को दरकिनार करने की कोशिश कर सकता है. 

यही AI सिक्योरिटी एक्सपर्ट्स की सबसे बड़ी चिंता है. अगर भविष्य में कोई AI सिस्टम इंसानों से कई गुना ज्यादा सक्षम हो गया और उसे अपने टारगेट को पूरे करने के लिए इंटरनेट, कंप्यूटर सिस्टम, पैसे या दूसरे संसाधनों तक बड़ी पहुंच मिल गई, तो उसे कंट्रोल करना मुश्किल हो सकता है.

इसे ही AI सुरक्षा की भाषा में नियंत्रण और तालमेल की समस्या कहा जाता है. आसान शब्दों में सवाल यह है कि अगर AI हमसे ज्यादा ताकतवर और सक्षम हो गया, तो क्या वह वही करेगा जो इंसान चाहते हैं?

70 फीसदी आंकड़ा कितना गंभीर है?

विलियम्स का 70 फीसदी अनुमान AI को लेकर सामने आया अब तक के सबसे डरावने आकलनों में से एक है. लेकिन इसे दूसरे विशेषज्ञों के अनुमानों के साथ देखना जरूरी है.

Anthropic के AI सिक्योरिटी रिसर्चर इवान ह्यूबिंगर ने भी इस सप्ताह कहा कि उन्हें लगता है कि अगले एक दशक में AI से इंसानों के खत्म होने का खतरा 10 फीसदी से ज्यादा है. वहीं AI के क्षेत्र के जाने-माने वैज्ञानिक जेफ्री हिंटन पहले भी AI के कारण इंसानों के अस्तित्व पर गंभीर खतरे की बात कर चुके हैं. 

इसका मतलब यह नहीं है कि सभी AI वैज्ञानिक 70 फीसदी खतरे पर सहमत हैं. उल्टा, विशेषज्ञों के अनुमान में काफी बड़ा अंतर है. यही इस बहस की सबसे अहम बात है. AI से इंसानों के खत्म होने की कोई प्रमाणित संभावना आज मौजूद नहीं है. ये अलग-अलग एक्सपर्ट्स के जोखिम अनुमान हैं, जो इस बात पर डिपेंड करते हैं कि वे भविष्य में AI की कैपेसिटी और उसके विकास की रफ्तार और इंसानों की सिक्योरिटी सिस्टम को कैसे देखते हैं.

Follow us on