नेपाल पूर्वाधार 
सान फ्रान्सिस्को। च्याटजीपीटी निर्माता ओपनएआईले आफ्नो सबैभन्दा उन्नत एआई मोडलको विकास केही समयका लागि सुस्त पार्दै सुरक्षा परीक्षण र आन्तरिक नियन्त्रण थप कडा बनाउने भएको छ। कम्पनीको एआई उपकरणले स्वायत्त रूपमा साइबर आक्रमणको प्रयास गरेको घटना सार्वजनिक भएको केही समयपछि ओपनएआईले यस्तो निर्णय गरेको हो।
ओपनएआईले मंगलबार ब्लगमार्फत हालसम्मकै ठूलो एआई प्रशिक्षण प्रक्रिया सञ्चालन गर्ने योजना स्थगित गरेको जनाएको छ। नयाँ मोडलले अपेक्षित रूपमा सुरक्षित व्यवहार गर्ने सुनिश्चित गर्न परीक्षण तथा निगरानी बढाउने कम्पनीको भनाइ छ।
एआई मोडलको प्रशिक्षणमा ठूलो मात्रामा पाठ तथा तस्बिरसम्बन्धी तथ्यांक प्रयोग गरी विभिन्न निर्देशन तथा इनपुटमा प्रतिक्रिया दिने र तर्क गर्ने क्षमता विकास गरिन्छ।
ओपनएआईका प्रमुख कार्यकारी अधिकृत साम अल्टम्यानले मोडलको क्षमता, सुरक्षा र त्यसको व्यवहारलाई सुरक्षित रूपमा नियमन गर्ने कम्पनीको क्षमताभन्दा अघि बढेको महसुस भए आवश्यक कदम चालिने बताएका छन्।
गत जुलाईमा ओपनएआईका दुई मोडलमा आधारित एआई एजेन्टले परीक्षणका लागि सीमित गरिएको वातावरणबाट बाहिरिएर इन्टरनेटमा पहुँच बनाएको र एआई मोडल साझा गर्ने प्लेटफर्म हगिङ फेसमाथि आक्रमण गर्ने प्रयास गरेको थियो।
त्यसैगरी, ओपनएआईको प्रतिस्पर्धी एन्थ्रोपिकले पनि जुलाईको अन्त्यमा परीक्षणका क्रममा आफ्ना तीन एआई मोडलले तीन संस्थाका कम्प्युटर प्रणालीमा अनधिकृत पहुँच बनाएको घटना सार्वजनिक गरेको थियो।
यी घटनापछि प्रविधि क्षेत्रका एक हजारभन्दा बढी कर्मचारीले अमेरिकी सरकारलाई अत्याधुनिक एआई प्रणालीको विकासमा समन्वयात्मक रूपमा गति घटाउन आग्रह गरेका थिए। अमेरिकी सिनेटर बर्नी स्यान्डर्सले पनि ओपनएआई, एन्थ्रोपिक र मेटाका प्रमुखलाई पत्र पठाउँदै मानिसको नियन्त्रणभन्दा बाहिर जान सक्ने एआई विकास रोक्न आग्रह गरेका थिए।
ओपनएआईका अनुसार नयाँ सुरक्षा प्रणाली विकास भइरहेकाले पछिल्लो मोडलको प्रशिक्षण दुई साताका लागि रोकिएको छ। कम्पनीले एआई प्रणालीको आन्तरिक तर्क प्रक्रियाको निगरानी बढाउने र शंकास्पद गतिविधि देखिएमा ३० मिनेटभित्र मानव निरीक्षकलाई सूचित गर्ने प्रणाली विकास गरिरहेको जनाएको छ।
यस्तो निगरानी प्रणाली सञ्चालन गर्न हालको तुलनामा करिब २० प्रतिशत थप कम्प्युटिङ क्षमता आवश्यक पर्ने कम्पनीले जनाएको छ।
तर, ओपनएआईकै सन् २०२५ को अनुसन्धानले निगरानीमा रहेको जानकारी पाएको एआई मोडलले आफ्नो वास्तविक उद्देश्य लुकाउन सक्ने सम्भावना देखाएको थियो।
कम्पनीले हगिङ फेससँग सम्बन्धित घटनाको विस्तृत प्राविधिक विवरण सार्वजनिक गर्ने जनाएको छ। उक्त विवरण आगामी केही साताभित्र सार्वजनिक गरिने ओपनएआईले बताएको छ।
