AGI के बारे में कैसे सोचें

"जब यह मूल रूप से अज्ञात है, इसका जोखिम भी ज्ञात नहीं है, और विशेषज्ञ भी कहते हैं कि वे नहीं जानते, तो हमें इसके बारे में कैसे सोचना चाहिए?"

ऐतिहासिक दृष्टिकोण से AGI पर विचार

• 1946 से कंप्यूटर के आगमन के साथ Artificial Intelligence (AI) में रुचि शुरू हुई
• AI को अब भी ऐसे शब्द के रूप में देखा जाता है जो उस तकनीक को संदर्भित करता है जिसे अभी पूरी तरह लागू नहीं किया गया है
• मनुष्यों के समकक्ष स्तर की software-based intelligence को दर्शाने वाले AGI(Artificial General Intelligence) में रुचि लगातार बनी हुई है

AGI के साकार होने की संभावना पर मतभेद

• हाल ही में Large Language Model (LLM) के आने के बाद यह राय उभरी है कि AGI का साकार होना अब करीब है
  • कुछ विशेषज्ञों का अनुमान है कि LLM, AGI में विकसित हो सकते हैं
  • वहीं दूसरी ओर यह भी राय है कि AGI को साकार करने के लिए अभी अतिरिक्त breakthrough की जरूरत है
• यह चिंता भी उठाई गई है कि AGI मानवता के लिए खतरा बन सकता है
• लेकिन विशेषज्ञों के बीच भी AGI की व्यवहार्यता और समय-सीमा को लेकर सहमति नहीं है

AGI के लिए सैद्धांतिक मॉडल का अभाव

• General Intelligence वास्तव में क्या है, इस पर कोई सर्वमान्य सैद्धांतिक मॉडल नहीं है
• LLM इतने अच्छे से क्यों काम करते हैं और आगे इनके विकास की कितनी संभावना है, इस पर भी अनिश्चितता है
• AGI की अवधारणा स्वयं एक thought experiment जैसी प्रकृति रखती है

AGI को लेकर अनिश्चितता और जोखिम

• AGI को भावनाओं और अधिकारों वाले नए जीव के रूप में परिभाषित करना, और यह मान लेना कि उसे नियंत्रित नहीं किया जा सकेगा, circular logic में फंसने का जोखिम पैदा करता है
• AGI की विशेषताओं और क्षमता के बारे में निश्चित रूप से कुछ नहीं कहा जा सकता
  • यह मनुष्यों से कहीं अधिक बुद्धिमान हो सकता है, या सिर्फ अधिक तेज हो सकता है
  • यह कुत्ते-स्तर की सामान्य बुद्धिमत्ता वाले एक उपयोगी tool तक सीमित भी रह सकता है
• AGI के जोखिम को लेकर चिंता वास्तविक है, लेकिन जोखिम का सही आकार और स्वरूप ज्ञात नहीं है

AGI विकास की अनिवार्यता और उससे निपटने के तरीके

• दीर्घकाल में AGI तकनीक का विकास अपरिहार्य लगता है
  • open model फैल रहे हैं, और chip का performance लगातार बेहतर होगा
  • आखिरकार गणित पर प्रतिबंध नहीं लगाया जा सकता
• automation तकनीक से पैदा होने वाला घर्षण और पीड़ा अपरिहार्य है, लेकिन जीवन चलता रहेगा
• AGI के जोखिम को स्वीकार करते हुए भी, अत्यधिक भय के बजाय शांत और विवेकपूर्ण दृष्टिकोण से प्रतिक्रिया करना अधिक उचित लगता है

[vwjdalsgkv]

मुझे लगता है कि जोखिम-आधारित नज़रिए से यह कुछ वैसा ही है जैसे कोई बच्चा या आदिम मानव आग को देखता हो।
हमें यह नहीं पता कि आग किस प्रक्रिया से प्रकाश और ऊष्मा पैदा करती है, लेकिन हम घटनाओं से यह समझ लेते हैं कि कब प्रकाश उपयोगी है और कब ऊष्मा काम आती है, और फिर उसका अच्छा उपयोग करने लगते हैं।
लेकिन जब हम इस घटना को स्पष्ट रूप से नहीं समझते, या उसे गलत तरीके से इस्तेमाल करते हैं, तो नुकसान भी उठाते हैं। आखिर इसी मायने में हम कृत्रिम बुद्धिमत्ता के मामले में आदिम मानव ही हैं।
या फिर क्या ऐसा है कि मुझे छोड़कर आप सब लोग कृत्रिम बुद्धिमत्ता को अच्छी तरह समझते हैं?

[kandk]

यह तो जाहिर सी बात है..
कई लोग AGI को लेकर डरते हैं, और लगता है कि यह लेख मददगार हो सकता है.