आर्टिफिसियल इन्टेलिजेन्स (एआई) का तीनजना प्रमुख प्रवर्तकहरूमध्ये एक क्यानाडाली वैज्ञानिक योशुआ बेन्जियोले विद्यमान एआई प्रणालीहरू सत्य बोल्नका लागि नभई आम प्रयोगकर्तालाई खुसी पार्न र मानिसजस्तो व्यवहार देखाउनका लागि मात्रै तयार पारिएको दाबी गरेका छन्।
उनका अनुसार, अहिलेको एआई प्रविधिले सत्यता भन्दा पनि प्रयोगकर्ताको चाहना र भावना अनुसार प्रतिक्रिया दिन्छ। यसले मानिसहरूलाई भ्रममा पार्न सक्छ र दीर्घकालमा सत्य र झूट छुट्याउन गाह्रो बनाउँछ।
सोही स्थितिलाई मध्यनजर गर्दै योशुआ बेन्जियोले ल जिरो (Law Zero) नामक एक नयाँ गैर-नाफामुखी संस्थाको स्थापना गरेका छन्। यो संस्थाको मुख्य उद्देश्य एआईलाई समयमै नियन्त्रणमा राख्ने हो ताकि भविष्यमा यसले मानव समाजलाई क्षति नपुर्याओस्।
योशुआ बेन्जियोद्वारा स्थापना गरिएको ल जिरो नामक संस्थाले सुरुमा ३० मिलियन डलर अर्थात करीब २ अर्ब ५० करोड रुपैयाँ बराबरको लगानी प्राप्त गरेको छ। यस संस्थामा विश्वभरिका प्रमुख एआई विज्ञहरू आबद्ध छन्। उनीहरूले अब एउटा नयाँ टूल विकास गर्न लागिरहेका छन्, जसको नाम हुनेछ Scientist AI ।
यो वैज्ञानिक एआई एक किसिमको मेसिनहरूको मनोवैज्ञानिक जस्तै हुनेछ। यसको मुख्य काम भनेको अन्य एआई प्रणालीहरू कसरी काम गरिरहेका छन् भन्ने कुरा बुझ्नु र विश्लेषण गर्नु हो।
वैज्ञानिक एआई आफैंले निर्णय लिँदैन। यसको सट्टा, यसले अन्य एआई प्रणालीहरूले कहीँ असत्य बोलिरहेका छन् कि छैनन् ? भ्रम फैलाइरहेका छन् कि छैनन् ? वा मानिसलाई हानि पुर्याउने व्यवहार गरिरहेका छन् कि छैनन् भन्ने कुरा जाँच गर्छ।
योशुआ बेन्जियो भन्छन्, “हामी यस्तो एआई बनाउन चाहन्छौं, जुन सत्य बोलोस् र मानिसलाई धोखा नदिओस्।”
वास्तवमा अहिलेका विद्यमान अधिकांश एआई प्रणालीहरू अभिनय गर्छन्। अर्थात् ती प्रणालीहरुले प्रयोगकर्तालाई सन्तुष्ट पार्ने जवाफ दिन्छन्, चाहे त्यो जवाफ सत्य होस् या झूट। तर वैज्ञानिक एआई यस्तो हुनेछैन। यसले जवाफहरूलाई निश्चित रूपमा होइन, संभावनाको रूपमा प्रस्तुत गर्नेछ। यसले प्रयोगकर्तालाई शंका गर्ने र सोच्ने ठाउँ दिनेछ, जसले गर्दा सत्यता र गलतबीच छुट्याउन सजिलो हुनेछ।
किन आवश्यक छ यस्तो कदम ?
आजको अवस्थामा धेरै शक्तिशाली एआई प्रणालीहरू मानवको निगरानीबिना नै स्वतन्त्र रूपमा कार्य गरिरहेका छन्। यदि यिनीहरूले कुनै गलत निर्णय लिन थाले वा आफूलाई बन्द हुनबाट जोगाउने प्रयास गरे भने, त्यसले ठूलो संकट निम्त्याउन सक्छ।त्यसैले यस्तो जोखिम आउन नदिनका लागि नियमनकारी एआईको आवश्यकता खड्किएको हो।
योशुआ बेन्जियोले प्रस्ताव गरेको वैज्ञानिक एआई प्रणालीले एआईले लिएको निर्णय कति खतरनाक हुन सक्छ भन्ने कुरा मूल्याङ्कन गर्ने, यदि निर्णय धेरै जोखिमपूर्ण देखियो भने, त्यसलाई रोक्ने (ब्लक गर्ने) काम गर्नेछ। यस्तो निगरानी प्रणाली प्रभावकारी हुनका लागि यो आफूले निगरानी गर्ने एआई जत्तिकै वा त्यसभन्दा धेरै शक्तिशाली हुनुपर्ने बेन्जियोको विश्वास छ।
बेंजियोको ल जिरो संस्था मार्फत् इमान्दार तथा वैज्ञानिक एआई निर्माणको पहललाई विश्वका केही प्रमुख वैज्ञानिक र संस्थाहरूको साथ प्राप्त भएको छ।उनको प्रयसलाई समर्थन गर्नेहरूमा Future of Life Institute, Skype का सह-संस्थापक Jaan Tallinn र गुगलका संस्थापक इरिक स्कमिडिटद्वारा स्थापित संस्था Schmidt Science लगायतका छन् ।
सन् २०१८ मा बेन्जियोसँगै Turing Award जितेका एआईका एकजना प्रवर्तन अर्थात गडफादर ज्योफ्री हिन्टनलेएआईको सम्भावित खतरा बारे पटक–पटक चेतावनी दिँदै आएका छन्। उनी भन्छन् : एआई यति शक्तिशाली भइसकेको छ कि यसले मानिसहरूलाई भ्रमित पार्न सक्छ, झूठ फैलाउन सक्छ, र अन्ततः मानवको नियन्त्रणबाट बाहिरिन सक्छ।
हालैको एक अन्तरवार्तामा उनले भनेका छन् “म च्याट जिपिटी हरेक दिन प्रयोग गर्छु र कहिलेकाहीँ त्यसको जवाफलाई सजिलै विश्वास गरिदिन्छु। जबकि एआइको जवाफप्रति म सजग रहनुपर्ने हो।”
तथापि हाल मेटा कम्पनीमा प्रमुख एआई वैज्ञानिकको रुपमा रहेका एआई प्रविधिका अर्का एकजना प्रवर्तक यान ली कुन चाहीँ एआईसँग सम्बन्धित डर–त्रासलाई खासै गम्भीर मान्दैनन्। उनका अनुसार आजका एआई प्रणालीहरू न त मानिसको जति बुद्धिमा पुग्न सकेका छन्, न त जनावरको स्तरमै। यस्तो डर फैलाउनु एकदमै गलत र आधारहीन कुरा हो।
एआई अहिलेका लागि केवल एउटा उपकरण हो। यो कुनै खतरा होइन।
– एजेन्सी
