ChatLLaMA - LLaMA-आधारित ChatGPT का ओपन सोर्स इम्प्लीमेंटेशन

 (github.com/nebuly-ai)
15 पॉइंट द्वारा xguru 2023-03-02 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • Meta द्वारा हाल ही में रिलीज़ किया गया LLaMA, RLHF ट्रेनिंग प्रोसेस के लिए फाइन-ट्यून नहीं किया गया है
  • ChatLLaMA, LLaMA का उपयोग करने वाला RLHF इम्प्लीमेंटेशन है, जो ChatGPT-स्टाइल सर्विस बनाने के लिए एक पूरा ओपन सोर्स समाधान है
  • इसे ChatGPT की तुलना में लगभग 15 गुना तेज़ी से ट्रेन किया जा सकता है
  • फाइन-ट्यूनिंग प्रोसेस की गति बढ़ाने के लिए DeepSpeed ZERO सपोर्ट बिल्ट-इन है
  • यह LLaMA के 7B, 13B, 33B और 65B सभी को सपोर्ट करता है, इसलिए अपनी ज़रूरत के अनुसार साइज़ चुना जा सकता है

संबंधित पढ़ाई