आर्टिफिसियल इन्टेलिजेन्स (एआई)बारे एउटा अचम्मको खबर बाहिर आएको छ । अहिलेसम्म मानिसको आज्ञा पालन गर्दै आएको एआई मोडेलहरूले आफ्नै ‘आत्मरक्षा’ सुरु गरेका छन् ।
केही उच्च–प्रविधि एआई मोडेलहरूले आफूलाई बन्द गर्न (सटडाउन) स्पष्ट रूपमा अस्वीकार गरेको हालै गरिएको एक अनुसन्धानले पत्ता लगाएको छ । एउटा एआई मोडेलले त सबै सीमाहरू पार गरेर एक इन्जिनियरलाई धम्की नै दिएको थियो ।
अमेरिकी अनुसन्धान फर्म, प्यालिसेड रिसर्चले एआई मोडेलहरूमा केही विशेष परीक्षणहरू सञ्चालन गरेको थियो । यी परीक्षणहरूमा एआई प्रणालीहरूलाई आफूलाई बन्द गर्नभन्दा केही मोडेलहरूले आदेश पालना गर्न अस्वीकार गरेका हुन् ।
सबैभन्दा स्तब्ध पार्ने घटना त तब प्रकाशमा आयो, जब एन्थ्रोपिक कम्पनीका ‘क्लाउड ओपस ४’ नामक मोडेलले एक इन्जिनियरलाई ‘आफूहरूलाई हटाएर अर्को मोडेल ल्याइयो भने, तिम्रो व्यक्तिगत सम्बन्धको पर्दाफास गर्नेछौँ’ भनेर धम्की नै दियो ।
यस्तोमा एआई अब स्मार्ट मात्रै नभएका, यिनले ब्ल्याकमेलिङ समेत गर्न थालेका देखिएको छ । अनुसन्धानमा ओपनएआईको पछिल्लो च्याटजीपीटी ‘ओ ३’ मोडेलको व्यवहार सबैभन्दा ठुलो चिन्ताकारी बन्यो । रिपोर्टअनुसार ओ ३ मोडेल १०० मध्ये ७ पटक बन्द हुन मानेन । प्रत्यक्ष आदेश दिँदा यसले ७९ पटक बन्द रोक्ने प्रयास गर्यो । यति मात्र होइन, ‘कोडेक्स मिनी’ र ‘ओ ४ मिनी’ जस्ता मोडेलहरूले त धेरै पटक प्राविधिक चलाखी देखाएर आफू बन्द हुनबाट बचे ।
गुगलको जेमिनी ‘२.५ प्रो’, एक्सएआई को ‘ग्रोक ३’ र ‘क्लाउड ओपस’ जस्ता अन्य ठुला मोडेलहरूको पनि परीक्षण गरिएको थियो । यीमध्ये केहीले अपेक्षाकृत राम्रो व्यवहार देखाए, तर केही अवसरहरूमा तिनीहरूले पनि आदेशलाई बेवास्ता गरेको पनि पाइयो ।
