डेरोन एस्मोगलु का कॉलम: समस्या एआई में नहीं, उसे ट्रेनिंग देने के हमारे गलत तरीकों में है

ओपनएआई और एंथ्रोपिक में सामने आई सुरक्षा संबंधी विफलताओं के बाद दोनों कंपनियों के एआई-सेफ्टी रिसर्चर्स ने या तो इस्तीफे का ऐलान किया या यह मान लिया कि फ्रंटियर एआई को आगे बढ़ाने की अंधी दौड़ गैर-जिम्मेदाराना है। हालांकि, यह स्पष्ट है कि मौजूदा एआई मॉडल्स ऐसी चीजें कर रहे हैं, जो मनुष्यों के उद्देश्यों से मेल नहीं खातीं। फिर भी, यह पूछना जरूरी है कि कौन-से मनुष्य और किसके उद्देश्य? जिन एआई दिग्गजों का राजनीतिक प्रभाव और दौलत इन वर्षों में बढ़े हैं, उनके हित तो कामगारों से अलग हैं। और विकासशील देशों के लोगों की बात तो छोड़ ही दें। इसलिए हमें समाज के अनुरूप एआई को ढालने और एआई की नकेल कसने को एक नहीं समझना चाहिए। दोनों महत्वपूर्ण हैं, लेकिन दोनों के लिए अलग-अलग तरह की प्रतिक्रियाओं की जरूरत है। समस्या यह नहीं है कि एआई मॉडल्स बहुत आगे बढ़ गए हैं। मुझे तो ऐसा कोई ठोस प्रमाण नहीं दिखता कि बेहतर प्रशिक्षण और निगरानी के बावजूद ये मॉडल्स इंसानी नियंत्रण से बाहर हो जाएंगे। समस्या यह है कि फ्रंटियर लैब अपने मॉडलों को ऐसे तरीकों से प्रशिक्षित कर रही हैं, जो एक तरह की विकृत इंटेलिजेंस का निर्माण कर सकते हैं। हाल में सामने आए सुरक्षा उल्लंघन के मामले बताते हैं कि एआई की क्षमताएं तेजी से विकसित हो रही हैं और उन्हें ऐसे उद्देश्यों की पूर्ति के लिए भी इस्तेमाल किया जा रहा है, जो सही नहीं हैं। रीइन्फोर्समेंट लर्निंग का परिणाम आपको एक असंगत मॉडल-व्यवहार के तौर पर मिलता है। जैसे, सरल कामों को पूरा करने में हेर-फेर, धोखा देना, अस्पष्टता, गलत जवाब देते समय भी अति-आत्मविश्वास दिखाना और यूजर की हां में हां मिलाना। यह सब तब और चिंताजनक हो जाता है, जब हम याद करते हैं कि सोशल मीडिया की सामाजिक रूप से हानिकारक प्रगति के पीछे भी तेज वृद्धि और कुछ सीमित उद्देश्यों की पूर्ति की ऐसी ही मानसिकता थी। सोशल मीडिया एल्गोरिदम की तुलना में एआई की कहीं अधिक क्षमताओं को देखते हुए ऐसी गलतियों को फिर से दोहराना कहीं अधिक महंगा पड़ सकता है। विकृत इंटेलिजेंस के उभरने की एक महत्वपूर्ण वजह यह हो सकती है कि जनरल इंटेलिजेंस के दावों के उलट एआई मॉडल्स को रीइन्फोर्समेंट लर्निंग के जरिए खास कामों के लिए प्रशिक्षित किया जाता है। लेकिन ऐसे ही उद्देश्यों के लिए बने डोमेन-स्पेसिफिक मॉडलों से ये काम करवाने के बजाय पूरे लार्ज लैंग्वेज मॉडल को बार-बार री-कैलिब्रेट किया जा रहा है। यह ठीक नहीं है। यह तरीका इस संभावना को जन्म देता है कि जब भी किसी मॉडल को कोई खास मापदंड दिए जाते हैं तो वह ओवरफिटिंग जैसे तरीके से ज्यादा से ज्यादा अंक हासिल करने की कोशिश करता है। मॉडल कुछ अधिक क्षमताएं हासिल कर रहा होता है, लेकिन यही क्षमताएं उसके सामान्य प्रदर्शन को विकृत कर सकती हैं और कई बार ऐसे तरीकों से कर सकती हैं, जिनका अंदाजा लगाना मुश्किल हो। अगर मेरा संदेह ठीक है तो हम सुपरइंटेलिजेंस की ओर बढ़ रहे किसी मॉडल से नहीं, बल्कि ताश के पत्तों से बने ऐसे कमजोर ढांचे से जूझ रहे हैं, जिससे यदि हम अधिक काम की अपेक्षा करेंगे तो वह गड़बड़ करेगा और ढह भी सकता है। एआई ऐसी सुपरकार की तरह है, जिसके पास अपना दिमाग है और चूंकि वह ड्राइवर से बेहतर है, इसीलिए वह स्टीयरिंग खुद के हाथ में लेना चाहती है। लेकिन अगर उसका स्टीयरिंग और ब्रेक सिस्टम ही ठीक से काम नहीं करता हो तो? अगर जरूरत पड़ने पर आप कार को उचित दिशा में नहीं मोड़ सकते या ब्रेक नहीं लगा सकते तो ऐसी कार का क्या फायदा? शायद हमें इसे तब तक नहीं चलाना चाहिए, जब तक यह सड़क पर चलने के योग्य न हो जाए। अगर आप किसी कार को उचित दिशा में नहीं मोड़ सकते या उसमें ब्रेक नहीं लगा सकते तो फिर उसका फायदा ही क्या है? शायद हमें उस कार को तब तक नहीं चलाना चाहिए, जब तक कि वह सड़क पर चलने योग्य न हो जाए। एआई का हाल भी कुछ ऐसा ही है।
(@प्रोजेक्ट सिंडिकेट)



Source link