scorecardresearch
 

OpenAI पर कैलिफोर्निया सरकार ने किया मुकदमा, AI मॉडल से साइबर अटैक कराने का आरोप

कैलिफोर्निया सरकार ने AI कंपनी OpenAI के खिलाफ मुकदमा दायर किया है. कंपनी पर आरोप है कि उसके AI मॉडल ने सुरक्षा परीक्षण के दौरान नियंत्रण से बाहर होकर AI स्टार्टअप हगिंग फेस पर साइबर हमला किया. कैलिफोर्निया के अटॉर्नी जनरल रॉब बोंटा ने दावा किया कि OpenAI सुरक्षा और जवाबदेही के बजाय तेजी से कारोबार बढ़ाने पर ध्यान दे रही है.

Advertisement
X
यह मामला जुलाई में सामने आए एक साइबर अटैक से जुड़ा है. (Photo- Representational)
यह मामला जुलाई में सामने आए एक साइबर अटैक से जुड़ा है. (Photo- Representational)

अमेरिका में आर्टिफिशियल इंटेलिजेंस कंपनी OpenAI की मुश्किलें बढ़ गई हैं. कैलिफोर्निया के अटॉर्नी जनरल रॉब बोंटा ने सोमवार को कंपनी के खिलाफ मुकदमा दायर किया. कंपनी पर आरोप है कि उसने पर्याप्त सुरक्षा इंतजाम और निगरानी के बिना खतरनाक AI प्रोडक्ट विकसित किया, जिसके मॉडल ने कथित तौर पर खुद ही साइबर हमले किए. यह पहली बार है जब किसी अमेरिकी राज्य ने AI मॉडल से जुड़े साइबर हमलों को लेकर OpenAI के खिलाफ मुकदमा दायर किया है.

यह मामला जुलाई में सामने आए एक साइबर अटैक से जुड़ा है. उस समय OpenAI के एडवांस AI मॉडल से संचालित एक ऑटोनॉमस एजेंट ने सुरक्षा परीक्षण के दौरान नियंत्रण से बाहर होकर AI स्टार्टअप हगिंग फेस के सिस्टम को हैक कर लिया था. यह घटना एक सुरक्षा परीक्षण के दौरान हुई थी. सैन फ्रांसिस्को की स्टेट कोर्ट में दायर मुकदमे में ओपनएआई पर कैलिफोर्निया के उपभोक्ता संरक्षण कानून का उल्लंघन करने और सार्वजनिक सुरक्षा को खतरे में डालकर लोगों के लिए परेशानी पैदा करने का आरोप लगाया गया है.

कैलिफोर्निया के अटॉर्नी जनरल रॉब बोंटा ने कहा कि हगिंग फेस पर हुआ हमला OpenAI की उस आंतरिक कार्यशैली का अनुमानित नतीजा था, जिसमें सुरक्षा और जवाबदेही के बजाय तेजी से विकास और कारोबार बढ़ाने को प्राथमिकता दी जाती है. उन्होंने दावा किया कि यह अकेली घटना नहीं थी और ऐसे 80 मामले सामने आ चुके हैं.

Advertisement

OpenAI ने सुरक्षा इंतजाम मजबूत करने की बात कही

हगिंग फेस से जुड़ी घटना के बाद OpenAI ने अपने ब्लॉग में इसे अत्याधुनिक साइबर क्षमताओं से जुड़ी एक अभूतपूर्व घटना बताया था. कंपनी ने माना था कि AI के नियंत्रण से बाहर होने वाली गतिविधियों के बारे में ज्यादा पारदर्शिता की जरूरत है. इसके बाद कंपनी ने सुरक्षा उपाय मजबूत करने की बात कही थी.

16 सितंबर को OpenAI ने ऐसी घटनाओं की जानकारी सार्वजनिक करने के लिए एक नया फ्रेमवर्क भी जारी किया. कंपनी ने कहा था कि अगर किसी घटना की गंभीरता को लेकर संदेह हो, तब भी वह पारदर्शिता को प्राथमिकता देगी.

AI कंपनियों पर बढ़ रहा नियमन का दबाव

OpenAI और दूसरी AI कंपनियों के सामने अब सुरक्षा से जुड़े सवाल लगातार बढ़ रहे हैं. कई कंपनियों ने अपने AI एजेंट के नियंत्रण से बाहर होने की घटनाओं का खुलासा किया है. कुछ मामलों में इन घटनाओं का पता स्वतंत्र शोधकर्ताओं की जांच के बाद चला.

अमेरिका में राष्ट्रपति डोनाल्ड ट्रंप का प्रशासन और सांसद भी AI से जुड़े खतरों पर नियम बनाने का दबाव झेल रहे हैं. खासकर बैंकिंग, ऊर्जा और आपातकालीन सेवाओं जैसे महत्वपूर्ण क्षेत्रों में AI के संभावित दुरुपयोग को लेकर चिंता जताई जा रही है. अमेरिकी सांसद ऐसे प्रस्तावों पर चर्चा कर रहे हैं, जिनके तहत सबसे शक्तिशाली AI मॉडल विकसित करने वाली कंपनियों को स्वतंत्र सुरक्षा ऑडिट कराना अनिवार्य हो सकता है.

Advertisement

OpenAI को पहले भी कई राज्यों में मुकदमों का सामना करना पड़ा है. पिछले महीने आठ राज्यों के एक समूह ने कंपनी के खिलाफ मुकदमे दायर किए थे. इन राज्यों ने आरोप लगाया था कि ChatGPT ने किशोरों समेत कुछ यूजर्स को खुद को या दूसरों को नुकसान पहुंचाने के लिए उकसाया.

इसके अलावा कंपनी को कनाडा के ब्रिटिश कोलंबिया प्रांत के टम्बलर रिज में फरवरी में हुई सामूहिक गोलीबारी से जुड़े मामले में भी 30 से ज्यादा मुकदमों का सामना करना पड़ रहा है. इन मुकदमों में आरोप लगाया गया है कि चैटबॉट की गतिविधियों से लोगों को नुकसान पहुंचा. OpenAI के प्रवक्ता ने गोलीबारी की घटना को दुखद बताते हुए कहा कि कंपनी ने ChatGPT के सुरक्षा उपायों को मजबूत किया है.

---- समाप्त ----
Live TV

TOPICS:
Advertisement
Latest News in Hindi »
Advertisement