GPT-4 के विवरण लीक हुए?

 (threadreaderapp.com)
2 पॉइंट द्वारा GN⁺ 2023-07-12 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • GPT-4 के विवरण लीक होने की संभावना
  • लीक हुई जानकारी से लगता है कि GPT-4 में उन्नत क्षमताएँ होंगी
  • उम्मीद है कि GPT-4 में बेहतर natural language processing और समझने की क्षमता होगी
  • लीक हुए विवरण में बेहतर context understanding और reasoning क्षमता का भी उल्लेख है
  • अफवाह है कि GPT-4 का model size बड़ा होगा, जो performance सुधारने में योगदान दे सकता है
  • लीक हुई जानकारी ने तकनीक-समझ रखने वाले लोगों के बीच रुचि पैदा की है
  • यह लेख विभिन्न industries और applications पर GPT-4 के संभावित प्रभाव पर चर्चा करता है
  • GPT-4 आधिकारिक रूप से कब जारी होगा, यह ज्ञात नहीं है
  • लीक हुए विवरण ने software engineers और tech enthusiasts के बीच अटकलें और उत्सुकता पैदा की हैं

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2023-07-12
Hacker News टिप्पणियाँ
  • लीक हुए GPT-4 विवरण का मूल स्रोत semianalysis.com की एक ब्लॉग पोस्ट है।
  • जिन Twitter उपयोगकर्ता ने ये विवरण साझा किए, वे संभवतः ब्लॉग पोस्ट को दोबारा अपने शब्दों में बता रहे थे, और इसी कारण ट्वीट हटा दिया गया।
  • GPT-4 में इस्तेमाल किया गया MoE (Mixture of Experts) दिलचस्प है और यह आउटपुट गुणवत्ता में उतार-चढ़ाव की व्याख्या कर सकता है।
  • GPT-4 का vision model सार्वजनिक नहीं किया गया है, लेकिन इसे लेकर उम्मीद है।
  • GPT-4 की training के लिए 21 yottaflops की आवश्यकता थी, जो एक बड़ी computational उपलब्धि है।
  • GPT-4 की training cost पिछले साल की तुलना में 1/3 तक गिर गई, जो open source के लिए अच्छी खबर है।
  • यह अटकल है कि speculative decoding model से low-probability sequences स्वीकार करने के कारण GPT-4 की गुणवत्ता घटी।
  • Google language model scaling के लिए mixture of experts पर शोध कर रहा है, और GLaM model में 1.7 ट्रिलियन parameters और 64 experts हैं।
  • George Hotz ने एक इंटरव्यू में कहा कि GPT-4 में 220 billion parameters हैं और यह 8 sets of weights वाले 16 mixture models से बना है।
  • Twitter की ऊंची API pricing के कारण यह जिज्ञासा है कि Thread Reader जैसी premium services अब भी चल सकती हैं या नहीं।
  • कुछ उपयोगकर्ता Twitter पर रजिस्टर किए बिना लीक हुए GPT-4 training details तक पहुंचने के लिए वैकल्पिक लिंक ढूंढ रहे हैं।
  • GPT-4 कैसे काम करता है, इसकी वास्तविक जानकारी सिर्फ OpenAI के कर्मचारियों को है; बाकी सभी को अटकलों पर निर्भर रहना पड़ता है।