तोमनाथ उप्रेती । प्राणीजगत्मा मानिसको विशिष्टता उसको वास्तविक शक्ति चेतना, विवेक, कल्पना र आत्मचिन्तनमा छ। मानिसले प्रकृतिलाई स्वीकार मात्र गरेन। उसले प्रकृतिलाई बुझ्ने प्रयत्न गर्‍यो। त्यसलाई रूपान्तरण गर्‍यो। ज्ञानलाई प्रविधिमा बदल्यो। प्रविधिलाई सभ्यताको आधार बनायो। यही यात्राले मानवलाई गुफाबाट अन्तरिक्षसम्म पुर्‍याएको छ। चन्द्रमामा पाइला टेक्ने साहसदेखि मङ्गल ग्रहमा मानव अभियानको तयारीसम्म यही चेतनाको परिणाम हो। आज संसारका विशाल ज्ञान भण्डारलाई एउटा सानो मोबाइल उपकरणमा समेट्न सकिन्छ। असम्भवजस्ता देखिएका काम सम्भव भएका छन्।

तर मानव सभ्यताको इतिहासले एउटा गम्भीर सत्य पनि सिकाउँछ। ज्ञानको विस्तार स्वतः विवेकको विस्तार होइन। मानिसले आणविक ऊर्जा पत्ता लगायो। त्यसबाट विद्युत् उत्पादन गर्न सक्यो। त्यही ज्ञानबाट विनाशकारी हतियार पनि निर्माण गर्‍यो। विज्ञानले जीवनलाई उज्यालो दिन सक्छ। तर विवेकविहीन विज्ञानले जीवनमाथि अन्धकार पनि ल्याउन सक्छ। दोस्रो विश्वयुद्धमा हिरोसिमा र नागासाकीमाथि आणविक बम प्रयोग भएको त्रासदी यसको ऐतिहासिक प्रमाण हो। आज पनि संसारमा आणविक जोखिम समाप्त भएको छैन। स्टकहोम अन्तर्राष्ट्रिय शान्ति अनुसन्धान संस्था (SIPRI) का अनुसार सन् २०२६ को सुरुवातमा विश्वका नौ आणविक हतियारसम्पन्न राष्ट्रसँग करिब १२ हजार १८७ आणविक हतियार रहेका थिए। तीमध्ये करिब ४,०१२ वटा परिचालन प्रणालीमा तैनाथ थिए। करिब २,१०० देखि २,२०० वटा उच्च परिचालन सतर्कतामा राखिएका थिए।

यस तथ्यले एउटा दार्शनिक प्रश्न जन्माउँछ। मानिसले बनाएको ज्ञान मानिसकै विनाशको कारण बन्न सक्छ भने ज्ञानको अन्तिम उद्देश्य के हो? यही प्रश्न आज कृत्रिम बुद्धिमत्ताका सन्दर्भमा अझ गम्भीर बनेको छ। एआई मानिसको बौद्धिक क्षमताको प्रतिस्पर्धी मात्र होइन। यो ज्ञान उत्पादन, निर्णय, अनुसन्धान, उद्योग, शिक्षा, स्वास्थ्य, प्रशासन र युद्धको चरित्र बदल्ने प्रविधि बनिरहेको छ। स्ट्यानफोर्डको २०२६ एआई इन्डेक्सअनुसार २०२५ मा उद्योगले उल्लेखनीय फ्रन्टियर एआई मोडेलमध्ये ९० प्रतिशतभन्दा बढी उत्पादन गरेको थियो। संगठनात्मक एआई प्रयोग ८८ प्रतिशत पुगेको छ। जेनेरेटिभ एआई तीन वर्षमै विश्व जनसंख्याको अनुमानित ५३ प्रतिशतसम्म पुगेको छ।

यो परिवर्तनको गति असाधारण छ। औद्योगिक क्रान्तिले मानिसको शारीरिक श्रमको स्वरूप परिवर्तन गरेको थियो। इन्टरनेटले सूचना र सञ्चारको संरचना परिवर्तन गर्‍यो। एआईले भने मानिसको संज्ञानात्मक श्रमको स्वरूप नै परिवर्तन गर्ने सम्भावना बोकेको छ। त्यसैले एआईलाई नयाँ उपकरणका रूपमा मात्र बुझ्नु पर्याप्त हुँदैन। यो मानव सभ्यताको ज्ञान–व्यवस्थामाथि भइरहेको संरचनात्मक परिवर्तन हो।

मेरी शेलीको ‘फ्राङ्केनस्टाइन’ले वैज्ञानिक सिर्जना र नैतिक जिम्मेवारीबीचको द्वन्द्वलाई गहिरोसँग प्रस्तुत गर्छ। सिर्जना गर्ने क्षमता प्राप्त गर्नु मात्र पर्याप्त हुँदैन; त्यसबाट उत्पन्न परिणामप्रति उत्तरदायित्व वहन गर्ने नैतिक क्षमता पनि आवश्यक हुन्छ। आज कृत्रिम बुद्धिमत्ताको विकाससँगै यही प्रश्न नयाँ स्वरूपमा दोहोरिएको छ। सिर्जना गर्ने सामर्थ्य प्राप्त गर्नु र सिर्जनाको परिणाम नियन्त्रण गर्न सक्नु एउटै कुरा होइन। यही द्वन्द्व आज एआईमा पनि देखिन्छ। मानिसले मेसिनलाई बुद्धिमान बनाउन सक्छ। तर त्यस बुद्धिमत्ताको नैतिक दिशा कसले निर्धारण गर्ने? उत्तर प्राविधिक समुदायसँग मात्र छैन। यसको उत्तर मानव दर्शन, नैतिकता, कानुन, लोकतन्त्र र सामूहिक विवेकमा खोजिनुपर्छ।

एआईको सम्भावना असाधारण छ। स्वास्थ्य क्षेत्रमा यसले रोग पहिचान र उपचारलाई सहयोग गर्न सक्छ। शिक्षामा व्यक्तिगत सिकाइलाई विस्तार गर्न सक्छ। कृषिमा मौसम, माटो र उत्पादनसम्बन्धी विश्लेषण गर्न सक्छ। सार्वजनिक प्रशासनमा सेवा प्रवाहलाई तीव्र बनाउन सक्छ। अनुसन्धानमा विशाल तथ्याङ्कको विश्लेषण गर्न सक्छ। विपद् व्यवस्थापनमा पूर्वानुमान क्षमता बढाउन सक्छ। तर यही प्रविधिले मिथ्या सूचना, साइबर आक्रमण, निगरानी, भेदभाव र स्वचालित निर्णयको जोखिम पनि बढाउन सक्छ। संयुक्त राष्ट्रसङ्घीय शैक्षिक, वैज्ञानिक तथा सांस्कृतिक सङ्गठनले एआईको नैतिक शासनमा मानव अधिकार, मानव गरिमा, पारदर्शिता, निष्पक्षता, समावेशिता, वातावरणीय दिगोपन र मानव निगरानीलाई आधारभूत सिद्धान्त मानेको छ।

सबैभन्दा महत्वपूर्ण प्रश्न मानव नियन्त्रणको हो। मेसिनले मानिसका लागि काम गर्ने हो कि मानिसले मेसिनले निर्धारण गरेको संसारमा बाँच्ने हो? यो प्रश्न अब विज्ञान कथाको विषय मात्र रहेन। संयुक्त राष्ट्रसङ्घको स्वतन्त्र अन्तर्राष्ट्रिय वैज्ञानिक एआई प्यानलले २०२६ मा एआईका क्षमता, जोखिम र प्रभावबारे वैज्ञानिक मूल्याङ्कन अघि बढाएको छ। संयुक्त राष्ट्रसङ्घले कृत्रिम बुद्धिमत्ता (एआई) को सुरक्षित, समावेशी र उत्तरदायी विकास तथा प्रयोगका लागि ‘कृत्रिम बुद्धिमत्ता शासनसम्बन्धी विश्वव्यापी संवाद’ (Global Dialogue on AI Governance) अघि बढाएको छ। यसको मूल उद्देश्य एआई शासनमा सबै राष्ट्रको समान सहभागिता सुनिश्चित गर्दै मानव अधिकार, दिगो विकास र डिजिटल समानताको संरक्षण गर्नु हो।। यसमा १९३ सदस्य राष्ट्रसँगै निजी क्षेत्र, नागरिक समाज, प्राज्ञिक क्षेत्र र प्राविधिक समुदायलाई एउटै संवादमा ल्याइएको थियो।
संयुक्त राष्ट्रसङ्घको ८१औँ महासभाले पनि एआई शासनलाई महत्त्वपूर्ण प्राथमिकताका रूपमा अघि सारेको छ। महासभाका अध्यक्ष खलिलुर रहमानले एआईको भविष्य प्रविधिले निर्धारण गर्ने विषय नभई त्यसको शासन कसरी गरिन्छ भन्ने प्रश्न भएको स्पष्ट गर्नुभएको छ। उहाँले विकासशील देशहरूको सहभागिता, डिजिटल विभाजन, मानव अधिकार र समावेशी शासनलाई जोड दिनुभएको छ।

यस बहसको केन्द्रमा एउटा नैतिक सिद्धान्त हुनुपर्छ। कुनै पनि प्रविधि मानवभन्दा माथि हुन सक्दैन। मेसिनले गणना गर्न सक्छ। तर मूल्य निर्धारण गर्न सक्दैन। मेसिनले भाषा उत्पादन गर्न सक्छ। तर मानवीय पीडाको अनुभूति गर्न सक्दैन। मेसिनले निर्णयका विकल्प देखाउन सक्छ। तर त्यस निर्णयको नैतिक परिणामको सम्पूर्ण जिम्मेवारी लिन सक्दैन। त्यसैले अन्तिम उत्तरदायित्व मानिसमै रहनुपर्छ।

यहाँ अल्बर्ट आइन्स्टाइनको प्रसिद्ध चेतावनी स्मरणीय छ “ज्ञानभन्दा कल्पना महत्वपूर्ण छ।” यसको गहिरो अर्थ आज अझ स्पष्ट हुन्छ। एआईले ज्ञानको पहुँच अभूतपूर्व बनाइरहेको छ। तर ज्ञानलाई विवेकमा रूपान्तरण गर्ने क्षमता मानिसकै हो। सूचना धेरै हुनु र सत्य बुझ्नु एउटै कुरा होइन। तथ्य धेरै हुनु र प्रज्ञा प्राप्त गर्नु पनि एउटै कुरा होइन। आधुनिक सभ्यताको संकट सूचना अभाव मात्र होइन। विवेकको अभाव पनि हो।

एआईको अर्को ठूलो चुनौती रोजगारी हो। स्ट्यानफोर्डको २०२६ एआई इन्डेक्सले केही श्रम बजारमा प्रारम्भिक प्रभाव देखिएको उल्लेख गरेको छ। २२–२५ वर्ष उमेरका सफ्टवेयर विकासकर्ताको रोजगारी २०२४ देखि करिब २० प्रतिशत घटेको तथ्य प्रस्तुत गरिएको छ। संस्थागत सर्वेक्षणमा करिब एकतिहाइ संस्थाले आगामी वर्ष एआईका कारण कार्यबल घट्ने अपेक्षा गरेका छन्। तर समग्र अर्थतन्त्रमा व्यापक रोजगारी विनाश भइसकेको निष्कर्ष निकाल्न भने अझै पर्याप्त प्रमाण छैन।

यसबाट नीति निर्माताले डर फैलाउने होइन, रूपान्तरण व्यवस्थापन गर्ने शिक्षा लिनुपर्छ। एआईलाई रोजगारीको शत्रुका रूपमा मात्र हेर्नु गलत हुन्छ। तर रोजगारीको संरचना बदलिँदै छैन भन्नु पनि यथार्थपरक हुँदैन। भविष्यको शिक्षा आलोचनात्मक सोच, सिर्जनशीलता, समस्या समाधान, नैतिक विवेक र अन्तरविषयगत ज्ञानको विकास आवश्यक हुन्छ। मानिसले मेसिनसँग प्रतिस्पर्धा गर्ने होइन। मानिसले मेसिनलाई जिम्मेवार ढङ्गले प्रयोग गर्ने क्षमता विकास गर्नुपर्छ।

यस सन्दर्भमा नेपालको अवस्था विशेष महत्त्वपूर्ण छ। नेपालले राष्ट्रिय एआई नीति, २०८२ जारी गरिसकेको छ। उक्त नीतिले एआई पूर्वाधार, मानव क्षमता, अनुसन्धान, क्षेत्रगत प्रयोग, नैतिकता र नियमनको दिशालाई समेटेको छ। तर नीति हुनु मात्र पर्याप्त हुँदैन। त्यसलाई संस्थागत क्षमता, दक्ष जनशक्ति, तथ्याङ्क शासन, साइबर सुरक्षा र डिजिटल साक्षरतासँग जोड्नुपर्छ।

नेपालमा डिजिटल पहुँच विस्तार भइरहेको छ। अन्तर्राष्ट्रिय दूरसञ्चार सङ्घका अनुसार २०२४ मा नेपाली घरपरिवारमध्ये ४०.२ प्रतिशतमा घरमै इन्टरनेट पहुँच थियो। त्यस्तै २०२५ सम्म विश्वमा करिब ६ अर्ब मानिस इन्टरनेटमा जोडिएका थिए। तर डिजिटल पहुँच र डिजिटल दक्षता एउटै कुरा होइनन्। अन्तर्राष्ट्रिय दूरसञ्चार सङ्घले पनि इन्टरनेट प्रयोगकर्ता र आवश्यक डिजिटल सीपबीच विश्वव्यापी अन्तर रहेको औँल्याएको छ।

त्यसैले नेपालका लागि एआई नीति तीन तहमा केन्द्रित हुनुपर्छ। पहिलो, प्रविधिमा पहुँच। दोस्रो, प्रयोग गर्ने दक्षता। तेस्रो, जिम्मेवार प्रयोग गर्ने नैतिक चेतना। यी तीनमध्ये कुनै एउटा कमजोर भयो भने डिजिटल रूपान्तरण अपूर्ण हुन्छ। विशेषतः नेपाली भाषामा विश्वसनीय एआई सामग्री, स्थानीय तथ्याङ्कको सुरक्षा, सार्वजनिक सेवामा पारदर्शी एआई प्रयोग र मिथ्या सूचनाविरुद्ध नागरिक साक्षरता आवश्यक छ।

एआईको अर्को गम्भीर जोखिम मिथ्या सूचना हो। भाषा उत्पादन गर्ने प्रणालीले सत्य र असत्यलाई समान विश्वसनीय शैलीमा प्रस्तुत गर्न सक्छ। स्ट्यानफोर्डको २०२६ प्रतिवेदनले २६ प्रमुख एआई मोडेलको परीक्षणमा एआई भ्रम दर २२ प्रतिशतदेखि ९४ प्रतिशतसम्म फरक परेको देखाएको छ। यसले एआईले लेखेको सामग्रीलाई स्वतः सत्य मान्नु जोखिमपूर्ण भएको देखाउँछ।

लोकतन्त्रका लागि यो प्रश्न झन् गम्भीर छ। निर्वाचन, सार्वजनिक बहस र सामाजिक सम्बन्धमा कृत्रिम सामग्रीले भ्रम सिर्जना गर्न सक्छ। आवाज नक्कल गर्न सकिन्छ। अनुहार परिवर्तन गर्न सकिन्छ। झुटो दृश्यलाई वास्तविकजस्तो प्रस्तुत गर्न सकिन्छ। यस अवस्थामा नागरिकको सबैभन्दा ठूलो सुरक्षा प्रविधि होइन। आलोचनात्मक चेतना हो।
त्यसैले एआई शासन केवल सरकारको विषय बन्नु हुँदैन। निजी क्षेत्र, विश्वविद्यालय, अनुसन्धान संस्था, नागरिक समाज, सञ्चारमाध्यम र नागरिक सबै सहभागी हुनुपर्छ। संयुक्त राष्ट्रसङ्घको वर्तमान एआई संवादले पनि बहुपक्षीय र बहुसरोकारवाला शासनको आवश्यकता अघि सारेको छ।

अन्ततः मानव सभ्यताको प्रश्न एआई कति शक्तिशाली हुन्छ भन्ने मात्र होइन। मानिस कति विवेकी रहन्छ भन्ने हो। आणविक युगले हामीलाई शक्ति र विनाशबीचको सम्बन्ध सिकायो। एआई युगले बुद्धि र विवेकबीचको सम्बन्ध सिकाउँदै छ। शक्ति बढ्दै जाँदा संयम पनि बढ्नुपर्छ। ज्ञान बढ्दै जाँदा नैतिकता पनि गहिरिनुपर्छ। प्रविधि तीव्र हुँदै जाँदा मानवीय संवेदना झन् बलियो हुनुपर्छ।

भगवद्गीताको कर्मदर्शनले कर्मसँगै विवेक र आसक्तिरहित कर्तव्यको महत्त्व देखाउँछ। बुद्ध दर्शनले करुणालाई चेतनाको आधार मान्छ। आधुनिक मानवतावादले मानव गरिमालाई सभ्यताको केन्द्रमा राख्छ। यी विभिन्न परम्पराको साझा सन्देश एउटै छ—साधनभन्दा साध्य ठूलो हुन्छ। प्रविधि साधन हो। मानव कल्याण साध्य हो।त्यसैले भविष्यको एआई नीति केवल “के गर्न सकिन्छ?” भन्ने प्रश्नमा सीमित हुनु हुँदैन। त्यसले “के गर्नुपर्छ?”, “के गर्नु हुँदैन?” र “कसको उत्तरदायित्वमा गर्नुपर्छ?” भन्ने प्रश्न पनि सोध्नुपर्छ। यही नै प्राविधिक प्रगतिलाई नैतिक प्रगतिसँग जोड्ने मार्ग हो।

मानिसले आगो आविष्कार गर्‍यो। त्यसले खाना पकायो। उज्यालो दियो। उद्योग जन्मायो। तर आगोले विनाश पनि गर्न सक्छ। परमाणुले ऊर्जा दियो। हतियार पनि बनायो। एआईले ज्ञान र उत्पादकत्वको नयाँ क्षितिज खोल्दै छ। तर त्यसले भ्रम, असमानता र नियन्त्रणको नयाँ जोखिम पनि जन्माउन सक्छ। त्यसैले प्रश्न प्रविधि राम्रो कि नराम्रो भन्ने होइन। प्रश्न त्यसको उद्देश्य, शासन, प्रयोग र नैतिक सीमाको हो।

मानव सभ्यताको सर्वोच्च उपलब्धि चन्द्रमामा पुग्नु मात्र होइन। आफ्नै शक्ति प्रयोग गर्दा मानवता नहराउनु हो। भविष्यको महान् आविष्कार सबैभन्दा शक्तिशाली एआई नहुन सक्छ। सबैभन्दा महान् आविष्कार त्यस्तो मानवीय विवेक हुन सक्छ, जसले शक्तिशाली प्रविधिलाई पनि करुणा, न्याय, शान्ति र मानव गरिमाको सीमाभित्र राख्न सकोस्। त्यसैले एआईको युगमा हाम्रो मूल मन्त्र प्रविधि मानवका लागि हो, मानव प्रविधिका लागि होइन भन्ने हुनुपर्छ। विज्ञानले सम्भावनाको ढोका खोल्छ। प्रविधिले त्यसलाई कार्यरूप दिन्छ। तर कुन बाटो रोज्ने भन्ने निर्णय अन्ततः मानव चेतनाले नै गर्नुपर्छ। यही चेतना जीवित रह्यो भने एआई मानव सभ्यताको सहयात्री बन्न सक्छ। चेतना हरायो भने त्यही एआई सभ्यताको चुनौती बन्न सक्छ। मानव भविष्यको वास्तविक सुरक्षा मेसिनको बुद्धिमा मात्र होइन, मानिसको विवेकमा निर्भर छ।