Dalai - आपके कंप्यूटर पर LLaMA चलाने का सबसे आसान तरीका
(cocktailpeanut.github.io)- सिर्फ 2 लाइनों में LLaMA 7B मॉडल को लोकल में चलाया जा सकता है
npx dalai llama
npx dalai serve - llama.cpp + llama-dl CDN
- हैक करने योग्य वेबऐप बिल्ट-इन (JavaScript API और Socket.io API सहित)
localhost:3000पर जाएँ
2 टिप्पणियां
एक निकलता है तो शकरकंद की बेल की तरह उसके पीछे-पीछे बहुत सारी चीज़ें लगातार निकलती चली आती हैं।
दलाई लामा वगैरह.. नाम रखने की समझ तो...
llama.cpp - Facebook के LLaMA मॉडल को pure C/C++ में infer करना