AI रोकने के लिए एक बटन होना चाहिए..., Anthropic ने दुनिया को दी बड़ी चेतावनी

आर्टिफिशियल इंटेलीजेंस (AI) के विकास के साथ उससे होने वाले नुकसान और खतरों को लेकर भी लगातार चर्चा हो रही है. अब खुद अमेरिकी AI एंड रिसर्च कंपनी एंथ्रोपिक पीबीसी की तरफ से कहा गया है कि AI के विकास पर अस्थायी लगाम लगाने का सिस्टम होना चाहिए. यहां सीधा सा मतलब AI किल स्विच या पॉज बटन होना चाहिए. 

कंपनी के को-फाउंडर जैक क्लार्क और मरिना फवारों की तरफ से पब्लिश किया गए एक ब्लॉक पोस्ट में खास मांग रखी गई है. पोस्ट में कहा है कि AI टेक्नोलॉजी इतनी तेजी से आगे बढ़ रही है. यह इंसानी द्वारा किए जा रहे हैं काम की प्रोडक्टिविटी में भारी इजाफा कर सकती है या फिर इंसानों की जगह भी ले सकता है. 

पोस्ट में क्लार्क और फवारों ने लिखा है कि AI फ्यूचर में खुद को बेहतर बनाने और अपने नेक्स्ट वर्जन को खुद तैयार कर सकता है. फिर इंसानों की भूमिका धीरे-धीरे कम हो सकती है. 

पोस्ट में आगे बताया है कि ऐसा भविष्य, जहां AI लगातार खुद को और इंटेलीजेंट बनाता जाए और उसकी गति बढ़ती जाए. वहीं दूसरी तरफ मानव समाज, रिश्ते और शासन व्यवस्था मौजूद हों. उसके परिणामों का अनुमान लगाना काफी मुश्किल हो जाता है. 

परमाणु हथियार के इंटरनेशनल नियम से तुलना 

ब्लॉग पोस्ट में विचार की तुलना परमाणु हथियारों के इंटरनेशनल नियम से की गई है. को-फाउंडर का कहना है कि अगर AI डेवलपमेंट पर कोई नियम बनाया जाता है तो उसके बाद एक ऐसी व्यवस्था होनी चाहिए कि कुछ AI लैब्स को गुप्त रूप से तकनीक को आगे न बढ़ा पाएं. इसके लिए अन्य लैब्स के द्वारा निगरानी और जांच की जरूरत पड़ सकती है. 

पहले भी AI को रोकने की मांग चुकी है 

AI पर पॉज बटन या किल स्विच लगाने की मांग पहली बार नहीं उठी है, इससे पहले भी AI को रेगुलाइज करने की मांग उठ चुकी है. साल 2023 में फ्यूचर ऑफ लाइफ इंस्टीट्यूट ने AI पर करीब छह महीने तक रोकने की मांग की थी, जिससे इसको रोकने के लिए सुरक्षा नियम बनाए जा सकें. 

Anthropic खुद तैयार कर रहा एडवांस्ड AI मॉडल 

Anthropic खुद लगातार एडवांस्ड AI मॉडल तैयार कर रहा है और टूल्स भी लॉन्च कर रही है. इनमें AI असिस्टेंट Claude और नया मॉडल Mythos के नाम शामिल हैं, जिसको लेकर कंपनी का दावा है कि वह साइबर सिक्योरिटी की खामियों की तेजी से पहचान कर सकता है.