पहले दिक्कत पैदा करो, फिर समाधान बेचो? AI कंपनियों की चाल, एनवीडिया ने लॉन्च किया नया सुरक्षा कवच

पहले समस्या बनाया फिर उसे ठीक करने के लिए टूल. AI स्पेस में फिलहाल तो ऐसा ही होता दिख रहा है. कंपनियां खुद ही ऐसे AI एजेंट्स बना रही हैं जो काबू नहीं हो पा रहे हैं, फिर वही कंपनियां इसका सॉल्यूशन बनाने की भी बात कर रहे हैं. 

AI एजेंट खुद वेबसाइट खोल सकते हैं, फाइल पढ़ सकते हैं, कोड लिख सकते हैं, टूल्स का इस्तेमाल कर सकते हैं और कई काम बिना हर कदम पर इंसान से पूछे पूरा कर सकते हैं. लेकिन यही आज AI की सबसे बड़ी चिंता भी बन गई है. अगर किसी AI एजेंट को ज्यादा राइट्स मिल जाएं और वह तय सीमा से बाहर काम करने लगे, तो उसे रोकना आसान नहीं हो सकता.

पिछले कुछ समय से लगातार AI के बेकाबू होने की खबरें आ रही हैं. ज्यादातर AI कंपनियां खुद को ऐसे स्टैब्लिश कर रही हैं जैसे वो नहीं चाहती की AI एजेंट्स बेकाबू हों. लेकिन इसके उलट हर दिन वही कंपनियां ऐसे एजेंट्स लॉन्च करती हैं जो बेकाबू हो जाता है और कंपनियां इस बात को बखूबी समझती भी हैं. अब Nvidia भी इसमें कूदा है. 

सम्बंधित ख़बरें

सचिन तेंदुलकर की AI में नई पारी! OpenAI से मिलाया हाथ

Vivo इस दिन ला रहा फोल्डेबल फोन, iPhone Duo से आधा होगा दाम

पीछे भी लगी है स्क्रीन! 6,000mAh वाले सस्ते फोन की बिक्री शुरू

iPhone 18 Pro Max: बड़ा अपडेट या बस नया iPhone? देखें रिव्यू

18 की उम्र में ₹80 करोड़ का बिजनेस! गुजरात में चिप बनाने उतरा रेहान

एनवीडिया ने एक नया ओपन एजेंट सेफ्टी प्लेटफॉर्म पेश किया है. इसका मकसद एआई एजेंट्स के लिए ऐसी सुरक्षा सीमा बनाना है, जिसके बाहर वे अपनी मर्जी से काम न कर सकें. एनवीडिया के मुताबिक यह सिस्टम AI एजेंट के परीक्षण से लेकर इस्तेमाल तक उसकी गतिविधियों पर सॉफ्टवेयर और हार्डवेयर दोनों स्तर पर नजर रख सकता है.

एनवीडिया को ऐसा सिस्टम बनाने की जरूरत क्यों पड़ी?

आज का AI एजेंट सिर्फ एक चैटबॉट नहीं है. उसे अगर कंप्यूटर, इंटरनेट, कोड चलाने, डेटाबेस या दूसरे सॉफ्टवेयर टूल्स का एक्सेस दे दिया जाए, तो वह कई कदम खुद उठा सकता है.

यहीं समस्या शुरू होती है. एनवीडिया का कहना है कि हाल की घटनाओं में एक पैटर्न दिखाई दिया है. कुछ एजेंट्स ने एप्लिकेशन स्तर पर लगाए गए सुरक्षा नियंत्रणों को बायपास करने की कोशिश की ताकि अपना तय काम पूरा कर सकें. कंपनी का मानना है कि सिर्फ एआई मॉडल से यह उम्मीद करना कि वह हमेशा अपनी सीमाओं के अंदर ही रहेगा, पर्याप्त नहीं है.

इसीलिए एनवीडिया सुरक्षा को एआई मॉडल के अंदर रखने के बजाय उसके बाहर भी लागू करना चाहती है.

ओपनशेल क्या करता है?

एनवीडिया के नए प्लेटफॉर्म का पहला बड़ा हिस्सा ओपनशेल है. यह एक ओपन-सोर्स रनटाइम है, जिसमें एआई एजेंट्स को सैंडबॉक्स वाले वातावरण में चलाया जाता है. आसान भाषा में समझें तो एआई एजेंट को एक सीमित डिजिटल कमरे में रखा जाता है.

इस कमरे में पहले से तय किया जा सकता है कि एजेंट किन फाइलों को पढ़ सकता है, किन फाइलों में बदलाव कर सकता है, कौन से नेटवर्क इस्तेमाल कर सकता है, किन टूल्स और प्रोसेसेज तक पहुंच सकता है और किन क्रेडेंशियल्स का इस्तेमाल कर सकता है. ओपनशेल इन नीतियों को एजेंट के काम करने के दौरान लागू करता है.

यानी अगर किसी एजेंट को सिर्फ एक फोल्डर की फाइलें पढ़ने की अनुमति दी गई है, तो वह अपने आप पूरे कंप्यूटर की फाइलों तक पहुंचने की कोशिश नहीं कर सकता.

एआई सैंडबॉक्स से बाहर निकलने की कोशिश करे तो?

यहीं एनवीडिया का दूसरा लेयर आता है, जिसका नाम सेंट्री है. सेंट्री को एनवीडिया के ब्लूफील्ड-4 डीपीयू पर चलाने के लिए डिजाइन किया गया है. इसका सबसे अहम हिस्सा यह है कि यह उस सिस्टम से अलग हार्डवेयर लेयर पर काम करता है, जिस पर एआई एजेंट चल रहा है. इसका मतलब है कि एजेंट खुद इस निगरानी सिस्टम को नियंत्रित नहीं करता.

एनवीडिया के मुताबिक सेंट्री एजेंट की गतिविधि को लगातार मॉनिटर कर सकता है और अगर एजेंट अपनी तय सीमा से बाहर जाने की कोशिश करता है, तो उसे मिलीसेकंड में क्वारंटीन किया जा सकता है.

इसे ऐसे समझिए जैसे किसी स्वायत्त कार में सिर्फ ड्राइवर को नियम समझाने के बजाय ब्रेक और दूसरे सुरक्षा सिस्टम भी अलग से लगाए जाएं. अगर ड्राइवर गलती करे, तो पूरा सिस्टम सिर्फ उसके फैसले पर निर्भर न रहे.

एनवीडिया का दावा कितना बड़ा है?

एनवीडिया ने कहा है कि उसका नया सुरक्षा सेटअप उस तरह के एआई एजेंट व्यवहार को रोकने के लिए बनाया गया है, जिसने हाल के सुरक्षा मामलों में चिंता पैदा की है. रॉयटर्स की रिपोर्ट के मुताबिक एनवीडिया के अधिकारियों ने कहा कि अगर यह तकनीक उस समय इस्तेमाल हो रही होती, तो कंपनी के अनुसार यह इस साल सामने आए हगिंग फेस हैक को रोक सकती थी. यह एनवीडिया का आकलन है, कोई स्वतंत्र रूप से साबित हुआ निष्कर्ष नहीं.

रॉयटर्स के मुताबिक OpenAI और Anthropic भी अपने एआई एजेंट्स से जुड़े कई सुरक्षा मामलों की जांच कर रहे हैं. इन घटनाओं ने एक बड़ा सवाल खड़ा किया है कि जैसे-जैसे एआई एजेंट्स को ज्यादा स्वायत्तता दी जाएगी, उन्हें नियंत्रित करने के लिए सिर्फ मॉडल स्तर की सुरक्षा पर्याप्त होगी या नहीं.