OpenAI शोधकर्ताओं ने CEO को हटाए जाने से पहले बोर्ड को AI breakthrough पर चेतावनी भरा पत्र भेजा था

 (reuters.com)
5 पॉइंट द्वारा GN⁺ 2023-11-23 | 2 टिप्पणियां | WhatsApp पर शेयर करें
  • OpenAI के शोधकर्ताओं ने Sam Altman प्रकरण से 4 दिन पहले, बोर्ड को शक्तिशाली AI खोज के बारे में चेतावनी देने वाला एक पत्र भेजा
  • पत्र की सामग्री की पुष्टि नहीं हुई है, लेकिन शोधकर्ताओं ने AI की क्षमताओं और संभावित जोखिमों की ओर इशारा किया

Q* प्रोजेक्ट की प्रगति

  • OpenAI को आंतरिक रूप से विश्वास था कि उसने Q* नामक प्रोजेक्ट में artificial general intelligence (AGI) की दिशा में एक breakthrough हासिल किया है
  • Q* ने प्राथमिक स्कूल स्तर के गणित प्रश्न हल करने की क्षमता दिखाकर शोधकर्ताओं के बीच बड़ी उम्मीदें जगाईं
  • AGI, केवल सीमित गणनाएँ हल करने वाले calculator के विपरीत, सामान्यीकरण, सीखने और समझने की क्षमता रखता है

SUPERINTELLIGENCE

  • गणित generative AI की प्रगति का अगला मोर्चा है; फिलहाल AI सांख्यिकीय रूप से अगले शब्द की भविष्यवाणी करके लेखन और भाषा अनुवाद में सक्षम है
  • गणितीय समस्याएँ हल करने की क्षमता यह संकेत देती है कि AI में मानव बुद्धिमत्ता जैसी reasoning क्षमता हो सकती है
  • ऐसी क्षमता को नए वैज्ञानिक शोध में लागू किया जा सकता है

GN⁺ की राय

  • इस लेख का सबसे महत्वपूर्ण बिंदु यह है कि OpenAI के शोधकर्ताओं ने बोर्ड को AI के संभावित जोखिमों के बारे में चेतावनी दी थी और Q* प्रोजेक्ट में प्रगति हुई थी।
  • AGI के एक कदम और करीब दिखने वाली यह खोज, AI तकनीक के भविष्य और मानवता पर उसके प्रभाव को लेकर दिलचस्प चर्चा छेड़ सकती है।
  • AI की प्रगति से आने वाली सकारात्मक संभावनाओं के साथ-साथ, संभावित जोखिमों के प्रति जागरूकता बढ़ाने वाला यह एक आकर्षक विषय हो सकता है।

संबंधित पढ़ाई

2 टिप्पणियां

 
cosine20 2023-11-27

लेकिन क्या ऐसी चीज़ें सिर्फ समय का सवाल नहीं हैं? भले ही पहले डेवलप करने वाली OpenAI इसे सार्वजनिक करने में देरी करे या रद्द कर दे, फिर भी लगता है कि दूसरी प्रतिस्पर्धी कंपनियाँ या open source कम्युनिटी कभी न कभी कुछ ऐसा ही लेकर आ जाएँगी..
 
GN⁺ 2023-11-23
Hacker News की राय
  • कुछ दिन पहले 4chan पर आई एक थ्योरी के मुताबिक, अगर किसी version को आधिकारिक तौर पर AGI (सामान्य कृत्रिम बुद्धिमत्ता) घोषित कर दिया जाता है, तो उसे Microsoft आदि को व्यावसायिक लाभ के लिए लाइसेंस नहीं दिया जा सकेगा। इसके आधार पर यह दावा किया गया कि Altman नहीं चाहते कि इसे AGI कहा जाए, जबकि बोर्ड के दूसरे सदस्य ऐसा चाहते हैं।
  • Q* नाम के एक नए मॉडल के बारे में यह उल्लेख है कि उसने दिए गए विशाल computing resources का उपयोग करके एक निश्चित स्तर के गणित के सवाल हल कर लिए। यह मॉडल प्राथमिक स्कूल स्तर के गणित प्रश्न हल करने में सफल रहा, और शोधकर्ता Q* की भविष्य की सफलता को लेकर बहुत आशावादी हैं।
  • Sam Altman की हाल की Q* खोज से जुड़ी दो टिप्पणियों का उल्लेख है। एक APEC में 18 नवंबर को की गई टिप्पणी है, और दूसरी 22 सितंबर को Twitter पर की गई पोस्ट है। इनमें OpenAI की प्रगति और खोज के क्षणों का जिक्र है।
  • यह राय है कि किसी व्यक्ति की धन-संपत्ति और शक्ति पर सीमाएँ होना एक अच्छा विचार है। देखा गया है कि तेल कंपनियाँ मुनाफे के लिए पृथ्वी को नुकसान पहुँचाती हैं, और टेक कंपनियाँ मुनाफे के लिए गोपनीयता का उल्लंघन करती हैं; ऐसे में यह सवाल उठता है कि Sam Altman मुनाफे के लिए क्या करेंगे या क्या नहीं करेंगे।
  • करीब एक महीने पहले Sam Altman ने टिप्पणी की थी कि AI, सामान्य बुद्धिमत्ता से पहले, अतिमानवीय persuasion क्षमताएँ हासिल करके बहुत अजीब परिणाम ला सकता है। संभव है कि हालिया breakthrough से चौंककर बोर्ड ने emergency button दबाया हो, और चुनावी चक्र से पहले "अतिमानवीय persuasion" क्षमता का गलत हाथों में जाना बहुत बड़े परिणाम ला सकता है।
  • किसी दिन AI 50% नौकरियाँ करेगा, बड़े फैसले लेगा, हम AI द्वारा चलाई जा रही गाड़ियों में सफर करेंगे, और लोग AI के साथ romantic संबंध भी बनाएँगे; लेकिन तब भी हम इस पर बहस कर रहे होंगे कि जो बनाया गया है वह वास्तव में AGI है या नहीं। AGI को हमेशा अगले चरण के रूप में देखा जाएगा, और एक दिन हमें एहसास होगा कि हम वह रेखा कई साल पहले ही पार कर चुके थे।
  • इसमें यह समझने में मदद मिलती है कि OpenAI का बोर्ड Sam Altman पर भरोसा क्यों नहीं कर पाया, और क्यों उसे लगा कि कंपनी को उड़ा देना उस तकनीक की खोज जारी रखने से बेहतर है।
  • यह सामग्री बोर्ड द्वारा Sam Altman को हटाने से जुड़ी चिट्ठी के साथ और बेहतर मेल खाती है; किसी बड़ी खोज की रिपोर्ट न करना और उसके बारे में कर्मचारियों की चिट्ठी से पता चलना "ईमानदार न होना" माना जा सकता है। साथ ही, अगर हम प्रलयकारी परिदृश्य मानें, तो सवाल यह भी है कि ऐसे रहस्य को गलत लोगों के हाथ में जाने से बचाते हुए कितने समय तक छिपाकर रखा जा सकता है।
  • यह राय है कि OpenAI अपनी marketing strategy में एक अग्रणी तरीका अपना रहा है। संदेश कुछ ऐसा है: "हमारे पास इस कैबिनेट के अंदर शक्तिशाली AGI है, और यह इतना शक्तिशाली है कि हम इसे बाहर नहीं छोड़ना चाहते," और इसी आधार पर लोगों से सुरक्षा बनाए रखने के लिए पैसा लिया जा रहा है।
  • एक अभिभावक ने अपने 12 साल के बेटे से गणित के उबाऊ हिस्सों पर बात की, और बेटे ने कहा कि absolute value बहुत आसान और उबाऊ है। जब बेटे ने कहा कि complex numbers के साथ यह ज्यादा दिलचस्प हो सकता है, तो अभिभावक को समझ आया कि वह complex plane में absolute value को वास्तविक और काल्पनिक भागों के कर्ण के रूप में समझता है। ऐसी समझ सिर्फ बहुत बड़ा synonym dictionary होने का नतीजा नहीं है, बल्कि बुनियादी mechanisms की समझ से आती है। इससे यह सवाल उठता है कि large language model किस प्रक्रिया से ऐसे ही निष्कर्ष तक पहुँच सकता है।