AI Hallucinate करता है, फिर भी उस पर भरोसा क्यों? India Today AI Summit में Wipro की VP ने बताई सच्चाई

India Today AI Summit में AI गवर्नेंस और प्राइवेसी को लेकर अहम चर्चा हुई. Summit में बोलते हुए Wipro की Vice President, Global Privacy and AI Governance, Ivana Bartoletti ने कहा कि AI Agents इस समय दुनिया की सबसे दिलचस्प टेक्नोलॉजी हैं.

लेकिन इसके साथ एक बड़ी समस्या भी है. AI hallucinate करता है. यानी कभी-कभी गलत जानकारी भी दे सकता है. इसलिए असली सवाल यह नहीं है कि AI कितना ताकतवर है, बल्कि यह है कि इसे कितना सुरक्षित और भरोसेमंद बनाया जा सकता है.

उन्होंने कहा कि अगर आर्टिफिशियल इंटेलिजेंस टूल्स और एजेंट्स को लोगों की जिंदगी में शामिल करना है तो सुरक्षा और रीजिलिएंस को शुरुआत से ही डिजाइन में शामिल करना होगा.

ट्रस्ट बनाना सबसे जरूरी है. अगर कोई AI एजेंट किसी व्यक्ति की निजी जानकारी एक्सेस करता है, तो अंतिम फैसला इंसान का होना चाहिए. यूजर को YES और NO कहने का पूरा अधिकार मिलना चाहिए. बिना अनुमति और सहमति के AI सिस्टम डिजाइन नहीं होने चाहिए.

गवर्नेंस को लेकर इवाना ने कहा कि AI Governance का मतलब सिर्फ कंप्लायंस या नियमों का पालन नहीं है. वह खुद लीगल बैकग्राउंड से आती हैं और उनका कहना है कि गवर्नेंस का असली मतलब इनोवेशन को एनेबल करना है. यह रणनीतिक क्षमता का सवाल है, न कि सिर्फ कड़े नियम लगाने का.

इंसानों की तरह AI भी करता है गलती

उन्होंने यह भी कहा कि AI का हैलुसिनेट करना कोई असाधारण बात नहीं है. इंसान भी गलती करता है. फर्क यह है कि AI को ऐसे डिजाइन किया जाए कि उसकी गलतियां कम हों और जवाबदेही साफ हो.

जब उनसे पूछा गया कि AI का इस्तेमाल लीगल पिटीशन और न्याय प्रणाली में हो रहा है, तो उन्होंने कहा कि हर देश को अपनी जरूरत के हिसाब से रेगुलेटरी फ्रेमवर्क बनाना चाहिए. यूरोप का AI Act भारत पर फिट नहीं बैठता.

अमेरिका भी अलग तरीके से AI को रेगुलेट करता है, और वहां हर स्टेट के अपने नियम हैं. भारत को अपनी सामाजिक और आर्थिक जरूरतों के हिसाब से अलग मॉडल बनाना होगा.

भारत टेक्नोलॉजी हंग्री

उन्होंने कहा कि भारत टेक्नोलॉजी अपनाने के लिए बेहद उत्सुक देश है. यहां टैलेंट की कमी नहीं है. बड़ी संख्या में इंजीनियर और डेटा साइंटिस्ट हैं. साथ ही ग्रोथ की महत्वाकांक्षा भी है. AI के जरिए विकास की सोच भारत को आगे ले जा सकती है.

इवाना ने यह भी कहा कि दुनिया के कुल डेटा का लगभग 20 प्रतिशत भारत से आता है. यह सिर्फ सांस्कृतिक प्रभाव नहीं डालता, बल्कि एथिकल नॉर्म्स और AI की दिशा तय करने में भी अहम भूमिका निभा सकता है.

उन्होंने डेटा सेंटर में निवेश और टैक्स रिलीफ जैसे कदमों को सकारात्मक बताया. लेकिन उन्होंने यह भी जोड़ा कि AI सिर्फ टेक्नोलॉजी नहीं है. असली बदलाव तब होगा जब इसके एप्लिकेशन रियल यूज केस में काम करेंगे और लोग उन्हें अपनाएंगे.

भारत द्वारा अपनाए गए Techno-Legal अप्रोच को उन्होंने समझदारी भरा कदम बताया. उनका कहना था कि AI की जवाबदेही को तकनीकी और कानूनी दोनों नजरिए से देखना जरूरी है. इससे AI के वास्तविक असर को समझने में मदद मिलेगी.

ग्लोबल सहयोग पर उन्होंने जोर दिया और कहा कि टेक्नोलॉजी के क्षेत्र में भारत और जर्मनी जैसे देशों के बीच साझेदारी मजबूत होनी चाहिए.

Deepfake के मुद्दे पर उन्होंने कहा कि यह खासकर महिलाओं को सबसे ज्यादा नुकसान पहुंचाता है. इसलिए AI की ताकत की चर्चा के साथ-साथ यह भी जरूरी है कि हम इस तरह के दुरुपयोग से कैसे निपटेंगे.

उन्होंने सुझाव दिया कि भारत को स्टेप बाय स्टेप सॉफ्ट लेजिस्लेशन के साथ आगे बढ़ना चाहिए. ज्यादा कड़े कानून से इनोवेशन रुक सकता है, लेकिन बिना नियमों के जोखिम भी बढ़ सकता है. बैलेंस बहुत जरूरी है.