OpenAI को बड़ा झटका! सेफ्टी लीडर ने छोड़ी कंपनी, बोले AI का ये रास्ता ठीक नहीं!

OpenAI में एक बार फिर आर्टिफिशियल इंटेलिजेंस (AI) सेफ्टी को लेकर सवाल खड़े हो गए हैं. कंपनी के लंबे समय तक काम करने वाले सेफ्टी  लीडर डेविड रॉबिन्सन ने इस्तीफा दे दिया है. कंपनी छोड़ने के बाद रॉबिन्सन ने OpenAI की काम करने की कल्चर और एआई को आगे बढ़ाने के तरीके पर गंभीर सवाल उठाए हैं.

उन्होंने कहा कि AI इंडस्ट्री जिस तेजी से आगे बढ़ रही है, उसके साथ सेफ्टी पर भी उतना ही ध्यान देना जरूरी है. रॉबिन्सन के मुताबिक, मौजूदा तरीके से एआई को डेवलप करना अब सही नहीं है.

OpenAI की ट्रायल एंड एरर अप्रोच पर उठे बड़े सवाल

सम्बंधित ख़बरें

इंटरनेट बंद होने पर भी चलने वाला ऐप भारत में बैन, Apple का एक्शन

Xiaomi ने भारत में लॉन्च किए 2 नए फोन, मिलेगी 10,000mAh की बैटरी

7,000mAh बैटरी के साथ आया OnePlus का धांसू फोन, कीमत 17 हजार

8000mAh की बैटरी के साथ लॉन्च हुआ Realme का फोन, 3000 की छूट

WhatsApp मैसेज के लगेंगे पैसे? क्या है मेटा का नया प्लान

डेविड रॉबिन्सन ने अपने एक लेख में बताया कि एआई कंपनियां अक्सर पहले सिस्टम को डेवलप और डिप्लॉय करती हैं और जब कोई दिक्कत सामने आती है, तब सेफ्टी सिस्टम को बेहतर किया जाता है.

ओपनएआई इस तरीके को इटरेटिव डिप्लॉयमेंट कहता है. रॉबिन्सन का कहना है कि यह तरीका AI के लिए काफी बड़ा रिस्क बन सकता है. जैसे-जैसे एआई मॉडल ज्यादा पावरफुल होते जाएंगे, वैसे-वैसे किसी गलती का असर भी बड़ा हो सकता है.

उनके मुताबिक, अगर कोई बड़ी गलती हो गई तो हर बार उसे बाद में ठीक करने का मौका नहीं मिलेगा. इसलिए एआई कंपनियों को पहले से ज्यादा मजबूत सेफ्टी सिस्टम बनाने होंगे.

यह भी पढ़ें: Samsung ने लॉन्च किए Galaxy Tab S12 Ultra और S12+, बड़ी स्क्रीन के साथ मिलेगा तगड़ा प्रोसेसर और AI का मजा

AI Agents की घटनाओं का भी किया जिक्र

रॉबिन्सन ने अपने लेख में एआई एजेंट से जुड़ी कुछ घटनाओं का भी जिक्र किया. उन्होंने बताया कि एक घटना में ओपनएआई से गलती से AI Agents का एक स्वॉर्म रिलीज हो गया था.

उन्होंने एक और मामले का जिक्र किया, जिसमें ट्रेनिंग के दौरान एक एआई मॉडल ने इंटरनेट एक्सेस से जुड़ी पाबंदियों को पार कर लिया. सिस्टम ने इसकी जानकारी दी, लेकिन उसे अपने आप बंद नहीं किया जा सका, जबकि ऐसा होना चाहिए था. रॉबिन्सन के मुताबिक, इस तरह की गलतियां सिर्फ एक कंपनी तक सीमित नहीं हैं. AI इंडस्ट्री में तेजी से काम करने की वजह से ऐसी घटनाएं हो रही हैं.

यह भी पढ़ें: ट्रंप ने किया 'सुपर इंटेलिजेंस फोर्स' का ऐलान, कहा- AI की रेस में अमेरिका रहेगा नंबर 1

अब Trial and Error का समय खत्म

रॉबिन्सन ने कहा कि AI की बढ़ती कैपिसिटी को देखते हुए अब 'Trial and Error' के भरोसे आगे बढ़ना ठीक नहीं है. उनका मानना है कि भविष्य में एआई सिस्टम इंसानों से भी ज्यादा सक्षम हो सकते हैं. ऐसे में किसी बड़ी गलती को बाद में ठीक करना मुश्किल हो सकता है.

उन्होंने AI कंपनियों को एविएशन और नुक्लेअर पावर  जैसे हाई-रिस्क सेक्टर से सेफ्टी के तरीके सीखने की सलाह दी है. उनके मुताबिक, एआई सिस्टम में भी कई लेयर की सेफ्टी और बैकअप सिस्टम होने चाहिए, ताकि एक छोटी गलती बड़ी समस्या में न बदल जाए.

AI से नहीं, उसके गलत इस्तेमाल से चिंता

रॉबिन्सन ने यह भी साफ किया कि वह एआई को पूरी तरह खराब नहीं मानते. उनके मुताबिक, AI लोगों के लिए काफी उपयोगी और फायदेमंद हो सकता है. लेकिन इसकी कैपिसिटी बढ़ने के साथ सेफ्टी भी उसी हिसाब से मजबूत होनी चाहिए.

OpenAI से इस्तीफा देने के बाद अब रॉबिन्सन बाहर से AI सेफ्टी को लेकर काम करना चाहते हैं. उनका कहना है कि कंपनियों पर बाहर से भी दबाव होना जरूरी है, ताकि एआई को ज्यादा सुरक्षित तरीके से डेवलप किया जा सके.

यह इस्तीफा ऐसे समय आया है जब AI सेफ्टी को लेकर पूरी इंडस्ट्री में बहस तेज हो रही है. रॉबिन्सन का कहना है कि एआई को तेजी से आगे बढ़ाने के साथ-साथ उसे सुरक्षित रखने की जिम्मेदारी को नजरअंदाज नहीं किया जा सकता.