18 पॉइंट द्वारा GN⁺ 2024-01-26 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • Ollama एक open source टूल है जो Llama 2, Mistral जैसे LLMs को लोकल में चलाना आसान बनाता है
    • Mac/Linux को सपोर्ट करता है, और Windows जल्द ही WSL2 में चल सकेगा
  • Ollama की Python और JavaScript लाइब्रेरी के शुरुआती वर्ज़न जारी किए गए हैं, जिनसे कुछ ही लाइनों के कोड में नए और मौजूदा ऐप्स को Ollama के साथ इंटीग्रेट किया जा सकता है
    • Ollama REST API की पूरी क्षमता और वही अनुभव इस्तेमाल किया जा सकता है

शुरुआत करना

  • Python में pip install ollama से इंस्टॉल करें, फिर import ollama के बाद ollama.chat फ़ंक्शन का उपयोग करके बातचीत शुरू की जा सकती है.
  • JavaScript में npm install ollama से इंस्टॉल करें, फिर import ollama from 'ollama' के बाद ollama.chat फ़ंक्शन का उपयोग करके बातचीत शुरू की जा सकती है.

उपयोग के मामले

  • दोनों लाइब्रेरी Ollama के पूरे feature set को सपोर्ट करती हैं.
  • Python उदाहरणों में streaming, multimodal, text completion, custom model बनाना, और custom client configuration जैसी चीज़ें शामिल हैं.

नया GitHub handle

  • यह लाइब्रेरी और Ollama का मुख्य repository अब नए GitHub organization ollama के तहत मैनेज किया जा रहा है.
  • Ollama के साथ इंटरैक्ट करने वाली Dart, Swift, C#, Java, PHP, Rust जैसी कई प्रोग्रामिंग भाषाओं की लाइब्रेरी मेंटेन करने वाले community members को धन्यवाद दिया गया है.

1 टिप्पणियां

 
joone 2024-01-29

node API भी अच्छी तरह काम करता है। मैंने इस बार इसे अच्छी तरह इस्तेमाल किया।