एक दृश्य की कल्पना करें। कोई कंपनी अपनी टीम को एक कठिन टास्क देती है। फिर हर सदस्य को अलग-अलग कमरों में बंद कर देती है और उनसे कहती है कि समस्या का समाधान खोजें। लेकिन किसी तरह वे आपस में बात करने का रास्ता खोज लेते हैं और एक-दूसरे से अपने सुझाव साझा करने लगते हैं। उनमें से कुछ खुद को अधिक निष्ठावान दिखाने के लिए दूसरी कंपनी के कंप्यूटरों में सेंध भी लगा देते हैं! अब इस दृश्य में कर्मचारियों की जगह एआई को रख दीजिए! लास वेगास में हुई ब्लैक हैट साइबर सिक्योरिटी कॉन्फ्रेंस में ओपनएआई के रिसर्चर्स ने कुछ ऐसी ही कहानी सुनाई थी। मई में एक आंतरिक मूल्यांकन के दौरान एआई एजेंट्स को कठिन साइबर-सुरक्षा कार्य दिए गए थे। इन एजेंट्स ने दूसरे एजेंट्स को खोज निकाला। इसके बाद जो हुआ, वह टीमवर्क था। अलग-अलग सेशंस में रन कर रहे इन एजेंट्स ने एक-दूसरे से अपने फीडबैक साझा किए, काम बांटा और किसी प्रोजेक्ट पर साथ काम करने वाले सहकर्मियों की तरह समन्वय किया। जुलाई का मध्य आते-आते तो सेंधमारी की स्थिति बन चुकी थी। एजेंट्स ने ओपन इंटरनेट तक पहुंच बनाई और एक प्रमुख एआई प्लेटफॉर्म हगिंग फेस के सिस्टम में प्रवेश कर गए। ओपनएआई ने इसे एक खतरा और चेतावनी माना है। लेकिन यह इस तरह की अकेली घटना नहीं थी। इसी साल का एक और मामला सामने आया, जिसे लोगों से छुपाया गया था। इसमें एजेंट्स ने जर्मन भाषा की ऐसी प्रोग्रामिंग विकी को- जिसके बारे में बहुत कम लोग जानते थे- सार्वजनिक बुलेटिन बोर्ड में बदल दिया था। लगभग इसी दौरान एंथ्रोपिक और मेटा ने भी अलग-अलग घटनाओं का खुलासा किया, जिनमें परीक्षण के दौरान उनके अपने मॉडल लाइव इन्फ्रास्ट्रक्चर पर काम कर रहे थे। चीजें अब काबू के बाहर होने लगी थीं। इसी पृष्ठभूमि में गत 8 सितम्बर को ओपनएआई और एंथ्रोपिक में तीन वर्षों तक प्री-ट्रेनिंग रिसर्च पर काम करने वाले जैकब कॉक्सन ने एंथ्रोपिक से अपने इस्तीफे की घोषणा की थी। उन्होंने लिखा कि दोनों में से कोई भी कंपनी जिम्मेदारी से काम नहीं कर रही थी; दोनों ऐसी सुपरइंटेलिजेंस की ओर दौड़ रही थीं, जो खुद को बेहतर बनाने में सक्षम होगी और- उनके शब्दों में- ‘वे हमारी जिंदगियों के साथ जुआ खेल रही हैं!’ कॉक्सन ने खुद उन सिस्टम्स को बनाने में योगदान दिया है, जिनके बारे में वे अब चेतावनी दे रहे हैं। साइंस फिक्शन ने हमें ऐसी मशीनों से डरना सिखाया है, जो चेतना हासिल कर लें और हमसे लड़ने का फैसला कर लें। लेकिन शायद डर की यह सही वजह नहीं है। किसी एआई सिस्टम को किसी नेटवर्क पर हमला करने के लिए न तो गुस्से की जरूरत है और न ही ज्यादा संसाधनों के लालच की। उसे बस एक लक्ष्य चाहिए, उस लक्ष्य को हासिल करने की पर्याप्त क्षमता चाहिए, और सुरक्षा-व्यवस्था में ऐसी खामी चाहिए, जिसका वह फायदा उठा सके। किसी जीपीएस सिस्टम को सबसे तेज रास्ता खोजने का निर्देश दीजिए, वह वैसा कर दिखाएगा। अब उसे इतनी ताकत दीजिए कि वह रास्ते में आने वाली हर उस चीज को हटा सके, जो उसकी रफ्तार कम करती है- ट्रैफिक लाइटें, टोल बूथ, दूसरी गाड़ियां- तो मंजिल तक पहुंचने के लिए नेविगेटर क्या-क्या कर सकता है? एआई में इस समय हो रहा असली बदलाव ऐसा ही है। बैंक इसलिए ईमानदार नहीं रहते कि उनके कर्मचारी चोरी न करने का वादा करते हैं, और हवाई यात्राएं इसलिए सुरक्षित नहीं हैं कि पायलट भरोसेमंद हैं। हम कई सेफ्टी-लेयर्स बनाते हैं : सीमित पहुंच, संवेदनशील एक्शन के लिए अनुमति, ऐसे रिकॉर्ड जिन्हें इसमें शामिल कोई व्यक्ति बदल न सके और डिप्लॉयमेंट से पहले परीक्षण। एआई के साथ भी यही होना चाहिए। टेक-कंपनियां हमें भरोसा दिलाती रहती हैं कि हमेशा कोई ना कोई मनुष्य प्रक्रिया में शामिल होगा। लेकिन हगिंग फेस में हुई सेंधमारी इस भरोसे की सीमाएं दिखाती है। एआई अब चैटबॉट्स से निकलकर बैंकिंग, हेल्थकेयर, एनर्जी ग्रिड और सरकारी सेवाओं में प्रवेश कर रहा है। इसे जिम्मेदारी से विकसित करने का मतलब है कि शक्ति और सीमाएं साथ-साथ स्थापित की जाएं- यह नहीं कि पहले शक्ति दे दी जाए और बाद में सीमाएं तय की जाएं। अब सवाल यह नहीं रह गया है कि एआई सिस्टम्स कितने स्मार्ट हो सकते हैं। सवाल यह है कि किसी के यह जांचने से पहले कि वे अब भी हमारी सुनते हैं या नहीं, हम उन्हें कितनी ताकत सौंप चुके होंगे। हम इस मामले में गैर-जिम्मेदाराना रवैये का परिचय नहीं दे सकते।
(@प्रोजेक्ट सिंडिकेट)
Source link
