Alpaca.cpp - व्यक्तिगत लैपटॉप पर ChatGPT जैसे मॉडल चलाना

• LLaMA, Alpaca और llama.cpp को मिलाकर ट्यून किया गया है और उस पर एक चैट इंटरफ़ेस जोड़ा गया है
• Alpaca-7b-q4 मॉडल का उपयोग
• M2 MacBook Air पर भी काफ़ी तेज़ गति से जनरेशन

[pugh123]

वाह~लगता है सच में singularity आ गई है....

[ffdd270]

उस स्तर की स्पीड हो तो ChatGPT Turbo मॉडल से तुलना करने पर भी कोई कमी नहीं लगती। यह वाकई बहुत आश्चर्यजनक है।

[xguru]

अरे, सच में हर दिन कुछ-न-कुछ धड़ाधड़ सामने आ रहा है.

LLM के लिए Stable Diffusion वाला पल आ रहा है