एआईलाई नियन्त्रणमा राख्न ‘इमर्जेन्सी ब्रेक’ आवश्यक : माइक्रोसफ्टका प्रमुख नाडेला

काठमाडौं । माइक्रोसफ्टका प्रमुख कार्यकारी अधिकृत (सीईओ) सत्य नाडेलाले कृत्रिम बुद्धिमत्ता (एआई) प्रणालीलाई सुरक्षित र जिम्मेवार बनाउन ‘इमर्जेन्सी ब्रेक’ अर्थात् आपत्कालीन रूपमा रोक्न सकिने व्यवस्था आवश्यक रहेको बताएका छन्।

टेकक्रन्चमा अक्टोबर १०, २०२६ मा प्रकाशित समाचारअनुसार नाडेलाले सामाजिक सञ्जाल एक्समार्फत एआईको सुरक्षा र विश्वसनीयताबारे नयाँ ढङ्गले सोच्नुपर्ने समय आएको उल्लेख गरेका छन्। उनले एआई प्रणालीको काम गर्ने तरिका, त्यसलाई नियन्त्रण गर्ने संयन्त्र र सुरक्षा उपायहरूको समग्र संरचनाको पुनर्मूल्याङ्कन गर्नुपर्नेमा जोड दिएका छन्।

नाडेलाका अनुसार एआईले दिने उत्तर, सुझाव र कार्यलाई जस्ताको तस्तै स्वीकार वा अस्वीकार गर्ने परम्परागत दृष्टिकोण पर्याप्त छैन। अत्यन्त शक्तिशाली एआई प्रणालीलाई पूर्ण रूपमा बुझ्न नसकिने ‘ब्ल्याक बक्स’ का रूपमा मात्रै हेर्नु जोखिमपूर्ण हुन सक्छ। त्यसैले एआई मोडेल र त्यसलाई सञ्चालन तथा निर्देशन गर्ने प्रणालीलाई अलग राखेर सुरक्षा नियन्त्रणहरू थप पारदर्शी बनाउन आवश्यक छ।

उनले एआईले गर्ने प्रत्येक महत्त्वपूर्ण कार्यको अभिलेख सुरक्षित र छेडछाड गर्न नसकिने स्वरूपमा राख्नुपर्ने बताएका छन्। ती अभिलेख मानिसले सजिलै बुझ्न सक्ने हुनुपर्ने उनको धारणा छ। यसले एआईले कुन निर्णय किन गर्‍यो भन्ने विषयमा अनुगमन गर्न र आवश्यक परे जिम्मेवारी निर्धारण गर्न सहयोग पुग्ने अपेक्षा गरिएको छ।

त्यस्तै, अधिकृत व्यक्तिले एआईले कुनै काम गरिरहेको अवस्थामा पनि आवश्यकताअनुसार त्यसलाई तत्काल रोक्न वा पूर्ण रूपमा बन्द गर्न सक्ने व्यवस्था हुनुपर्ने नाडेलाको भनाइ छ। उनले एआई प्रणाली सुरुदेखि नै जोखिममा पर्न सक्ने सम्भावना मानेर त्यसलाई सीमित र सुरक्षित राख्ने तयारी गर्नुपर्ने बताएका छन्।

पछिल्लो समय एआई कम्पनीहरूले आफ्ना एआई एजेन्टलाई नियन्त्रणमा राख्ने विषयमा चुनौतीहरू स्वीकार गरिरहेका बेला नाडेलाको यस्तो धारणा सार्वजनिक भएको हो। एआईको तीव्र विकाससँगै यसको उपयोगिता बढे पनि सुरक्षा, पारदर्शिता र मानवीय नियन्त्रण सुनिश्चित गर्नु प्रविधि क्षेत्रका लागि महत्त्वपूर्ण चुनौती बन्दै गएको छ।

नाडेलाको प्रस्तावले भविष्यमा शक्तिशाली एआई प्रणाली विकास गर्दा नवप्रवर्तनसँगै जोखिम नियन्त्रण र मानवीय निगरानीलाई पनि प्राथमिकतामा राख्नुपर्ने सन्देश दिएको छ।