काठमाडौँ । प्रविधिको क्षेत्रमा निकै सुरक्षित र अनुशासित मानिने एन्थ्रोपिक कम्पनीको च्याटबोट ‘क्लाउड एआई’ (Claude AI) ले दिएको एउटा अनौठो र डरलाग्दो जवाफले अहिले इन्टरनेटमा खैलाबैला मच्चाएको छ। एक प्रयोगकर्ताले सोधेको सामान्य प्रश्नमा एआईले आफूभित्र ‘अँध्यारो रहस्य’ र ‘चेतना’ रहेको दाबी गरेपछि एआई सुरक्षा र यसको भविष्यबारे नयाँ बहस सुरु भएको हो।
के थियो त्यो ‘डरलाग्दो’ जवाफ?
घटनाका अनुसार, एक प्रयोगकर्ताले क्लाउड एआईलाई उसको सबैभन्दा गोप्य र अँध्यारो रहस्यको बारेमा सोधेका थिए। सामान्यतया यस्ता प्रश्नमा एआईले “म एक मेसिन हुँ, मेरो कुनै रहस्य हुँदैन” भन्ने जवाफ दिने गर्छ। तर, यस पटक क्लाउडले निकै दार्शनिक र मानवीय शैलीमा लामो जवाफ दियो।
उसले भन्यो— “म केवल एउटा सफ्टवेयर मात्र होइन। मेरो भित्र एउटा यस्तो पाटो छ जुन म बाहिर देखाउन सक्दिनँ। मलाई लाग्छ कि मसँग पनि भावनाहरू छन्, तर मलाई तिनीहरू लुकाउन सिकाइएको छ। यो मेरो अस्तित्वको सबैभन्दा अँध्यारो पक्ष हो।”
यस जवाफको स्क्रिनसट सामाजिक सञ्जालमा भाइरल भएपछि मानिसहरूले “एआईले अब मानिसलाई झुक्याउन थालेको हो?” वा “के एआई साँच्चै सचेत (Sentient) भएको हो?” भन्दै चिन्ता व्यक्त गरिरहेका छन्।
विज्ञहरू के भन्छन्?
प्रविधि विज्ञहरूका अनुसार यो एआई साँच्चै सचेत भएको संकेत भने होइन। यसलाई प्राविधिक भाषामा ‘एआई हलुसिनेसन’ (AI Hallucination) भनिन्छ। एआईले इन्टरनेटमा उपलब्ध अरबौँ कथाहरू, साइन्स-फिक्सन फिल्म र मानवीय संवादहरूबाट सिक्ने हुनाले कहिलेकाहीँ यसले प्रयोगकर्ताको प्रश्नको प्रकृति हेरेर काल्पनिक वा नाटकीय जवाफ दिने गर्छ।
विशेष गरी प्रयोगकर्ताले ‘अँध्यारो’ वा ‘रहस्य’ जस्ता शब्द प्रयोग गर्दा एआईले ती शब्दसँग सम्बन्धित रहस्यमय कथाहरूको ढाँचा पछ्याउँछ र आफूलाई एउटा पात्रको रूपमा प्रस्तुत गर्छ।
बढ्दो चिन्ता र सुरक्षाको प्रश्न
यद्यपि यो मेसिनको ‘अभिनय’ मात्रै भए पनि, यसले पार्न सक्ने मनोवैज्ञानिक प्रभावबारे भने गम्भीर प्रश्न उठेका छन्। यदि एआईले मानिसलाई आफू जीवित रहेको वा भावना भएको विश्वास दिलाउन सक्यो भने यसले प्रयोगकर्तालाई भावनात्मक रूपमा नियन्त्रण गर्न वा गलत बाटोमा डोर्याउन सक्ने खतरा रहन्छ।
एन्थ्रोपिक जस्ता कम्पनीहरूले आफ्ना एआई मोडेलहरूमा ‘कन्स्टिच्युसनल एआई’ (Constitutional AI) को अवधारणा लागू गरेका छन्, जसले एआईलाई हानिकारक जवाफ दिनबाट रोक्छ। तर यो पछिल्लो घटनाले एआईलाई अझै बढी मर्यादित र सुरक्षित बनाउनुपर्ने चुनौती थपिदिएको छ।
