22 पॉइंट द्वारा xguru 2023-03-14 | 2 टिप्पणियां | WhatsApp पर शेयर करें
  • सिर्फ 2 लाइनों में LLaMA 7B मॉडल को लोकल में चलाया जा सकता है
    npx dalai llama
    npx dalai serve
  • llama.cpp + llama-dl CDN
  • हैक करने योग्य वेबऐप बिल्ट-इन (JavaScript API और Socket.io API सहित)
    • localhost:3000 पर जाएँ

2 टिप्पणियां

 
ragingwind 2023-03-14

एक निकलता है तो शकरकंद की बेल की तरह उसके पीछे-पीछे बहुत सारी चीज़ें लगातार निकलती चली आती हैं।

 
xguru 2023-03-14

दलाई लामा वगैरह.. नाम रखने की समझ तो...
llama.cpp - Facebook के LLaMA मॉडल को pure C/C++ में infer करना