Ollama ने Mac और Windows के लिए नया ऐप लॉन्च किया
(ollama.com)- Ollama ने macOS और Windows के लिए नया डेस्कटॉप ऐप जारी किया
- अब मॉडल डाउनलोड और चैट GUI वातावरण में आसानी से किए जा सकते हैं
- फ़ाइल drag and drop फीचर से टेक्स्ट और PDF दस्तावेज़ों के साथ इंटरैक्ट करना आसान हो गया है
- बड़े दस्तावेज़ों को प्रोसेस करते समय, context length सेटिंग बढ़ाकर लंबे मटेरियल का विश्लेषण किया जा सकता है
- Ollama के नए multimodal engine पर आधारित होकर, इमेज सपोर्ट करने वाले मॉडल्स (जैसे Google DeepMind का Gemma 3 model) को इमेज भी भेजी जा सकती हैं
- कोड फ़ाइलों सहित विभिन्न फ़ाइल फ़ॉर्मैट्स को सपोर्ट करने वाली दस्तावेज़ प्रोसेसिंग सुविधा भी शामिल है
- Ollama का नया ऐप आधिकारिक साइट के माध्यम से macOS और Windows के लिए डाउनलोड किया जा सकता है
- जिन उपयोगकर्ताओं को केवल CLI वर्ज़न चाहिए, वे उसे GitHub Releases से अलग से डाउनलोड कर सकते हैं
1 टिप्पणियां
Hacker News राय
हाल में लगता है कि Ollama अपनी होमपेज-केंद्रित प्रस्तुति के जरिए डेवलपर्स से हटकर आम यूज़र्स की ओर बदल रहा है, Ollama homepage देखें पहले यह डेवलपर CLI वर्ज़न पर केंद्रित था, लेकिन अब उसका नाम तक मुश्किल से दिखता है ब्लॉग के नीचे बस इतना छोटा-सा लिखा है कि "CLI वर्ज़न को Ollama GitHub रिलीज़ पेज से डाउनलोड किया जा सकता है" मैं इसकी आलोचना नहीं कर रहा, बस यह बदलाव काफ़ी नज़र आने वाला है इसलिए ध्यान गया मैंने पहले कई लोकल LLM ऐप्स आज़माए हैं, जिनमें मुझे दो सबसे अच्छे लगे: LM Studio और Msty मैं यह ऐप भी ज़रूर आज़माने वाला हूँ एक फीचर जो कमी जैसा लगता है, वह ChatGPT डेस्कटॉप ऐप का 'हमेशा वाला शॉर्टकट (Alt+Space)' है, जिससे तुरंत नया चैट खुल जाता है और छोटे UI में जल्दी सवाल पूछ सकते हैं अच्छा होगा अगर लोकल LLM ऐप्स भी यह आइडिया अपनाएँ
मैं Ollama का मेंटेनर हूँ मुझे बिल्कुल नहीं लगता कि हमने डेवलपर्स की अनदेखी की है हम सब डेवलपर हैं, और हमने Ollama अपने इस्तेमाल के लिए ही बनाया है लोग अलग-अलग प्रोटोटाइप बनाकर इस्तेमाल कर रहे थे, लेकिन सबको Ollama इतना पसंद आया कि अब उसी पर फोकस करके उसे बेहतर बना रहे हैं Ollama शुरू से अंत तक डेवलपर-टार्गेटेड है, और हम इसी पर ध्यान बनाए हुए हैं
क्या आपने pygpt.net इस्तेमाल किया है, यह जानना चाहूँगा इंटरफ़ेस थोड़ा ज़्यादा भरा हुआ लग सकता है और नाम भी थोड़ा कमज़ोर है, लेकिन मैंने जो ऐप्स इस्तेमाल किए हैं उनमें यह सबसे संतोषजनक लगा
यह बदलाव डेवलपर्स के लिए भी उल्टा सकारात्मक हो सकता है अगर ज़्यादा यूज़र Ollama इंस्टॉल करेंगे, तो बाद में अलग से मॉडल बंडल किए बिना Ollama-आधारित डेस्कटॉप AI ऐप्स भी डिप्लॉय किए जा सकेंगे अतिरिक्त लागत नहीं होगी, इसलिए यूज़र्स को मुफ्त/सस्ते सब्सक्रिप्शन भी दिए जा सकते हैं नए Qwen30B मॉडल भी बहुत ताकतवर हैं अगर इसके साथ कोई इंस्टॉल टेम्पलेट हो जो यूज़र PC की स्पेक्स (RAM, CPU/GPU परफॉर्मेंस वगैरह) जांचे और अगर Ollama इंस्टॉल न हो तो उसे नीचे की परत में इंस्टॉल/डाउनलोड कर दे, तो यह बहुत सुविधाजनक होगा और अगर मॉडल इंस्टॉल न हो तो परमिशन माँगकर उसे इंस्टॉल कराने वाली API भी होनी चाहिए
HugstonOne में नया टैब वगैरह जैसी यह सुविधा पहले से मौजूद है इसके अलावा यह देखकर हैरानी होती है कि ज़्यादातर डेवलपर्स बिना सोचे-समझे स्पैम जैसा एक्सपोज़र कर रहे हैं Ollama AI क्षेत्र का अग्रदूत है और शानदार ऐप है, इसके लिए दिल से धन्यवाद
Msty का नाम सुना था और थोड़ी देर इस्तेमाल भी किया था, लेकिन अब दोबारा देखने पर यह फीचर-समृद्ध लग रहा है LM Studio के बारे में नहीं जानता था, लेकिन इसमें मुफ्त commercial use संभव है (Msty में ऐसा नहीं है) अगर इसे चैट इंटरफ़ेस-आधारित टूल की तरह इस्तेमाल करना हो, तो दोनों ऐप्स के फायदे-नुकसान की तुलना जानना चाहूँगा
इस बार Ollama का यह बदलाव मुझे अच्छी तरह समझ नहीं आ रहा
फ्रंटएंड डेस्कटॉप ऐप तो उस वजह के बिल्कुल उलट है जिसके कारण मैं Ollama इस्तेमाल करता रहा हूँ मैं इसे मूल रूप से लोकल LLM backend के लिए इस्तेमाल करता था, और पुराने यूज़र्स तो पहले ही अपना-अपना frontend ढूँढ चुके हैं, बना चुके हैं या कस्टमाइज़ करके उसके आदी हो चुके हैं सच कहूँ तो हाल में कुछ अत्याधुनिक लोकल मॉडल देर से आने लगे थे, तो मुझे शक है कि कहीं इसकी वजह यही frontend फोकस तो नहीं अब Ollama की जगह मैं ऐसे विकल्प देखने वाला हूँ जो शुरुआत से अपना UI देते हों या सिर्फ CLI backend पर टिके हों अगर कुछ बेहतर मिला तो शायद मैं बदल भी जाऊँ, यह मुझे पहले ही कर लेना चाहिए था उम्मीद है कि यह Ollama के CLI फोकस छोड़कर सब्सक्रिप्शन-आधारित सामान्य LLM इंटरफ़ेस बनने की पहली सीढ़ी नहीं है
Ollama UI इस्तेमाल करके मुझे हैरानी हुई कि इसमें remote Ollama instance से कनेक्ट करने का विकल्प नहीं है सबसे ताकतवर PC हमेशा वही नहीं होता जिस पर मैं GUI चलाता हूँ
इस बात से मैं बहुत ज़्यादा सहमत हूँ मुझे Windows/macOS डेस्कटॉप environment पसंद हैं, लेकिन OS ख़ास पसंद नहीं, जबकि Linux/BSD में OS अच्छा लगता है लेकिन डेस्कटॉप environment उतना नहीं, इसलिए मैं हमेशा ताकतवर workstation को headless Linux पर रखता हूँ और Windows/macOS से SSH के ज़रिए जुड़ता हूँ ज़्यादातर डेवलपर्स को समझ ही नहीं आता कि यह क्या है हर बार टर्मिनल में कमांड चलाते समय अगर ब्राउज़र टैब खुल जाए, या URL टर्मिनल में प्रिंट न हो, तो यह बहुत तकलीफ़देह और निराशाजनक होता है
SSH port forwarding (
ssh -L 11434:localhost:11434 user@remote) का इस्तेमाल करके remote Ollama instance से कनेक्शन का workaround किया जा सकता है फिर भी native support हो तो बहुत बेहतर होगाऐप में Ollama को नेटवर्क पर expose करने का फीचर है, तो शायद यह जल्द सपोर्ट हो जाए
मैंने Windows पर Ollama UI इस्तेमाल किया (उससे पहले CLI इस्तेमाल करता था)
सिर्फ टेक्स्ट संभालना अब काफ़ी नहीं है सिर्फ अंग्रेज़ी ही नहीं, 30 सेकंड से लंबे ऑडियो का speech-to-text, voice generation, image generation भी बहुत महत्वपूर्ण हैं टेक्स्ट प्रोसेसिंग अब बेसलाइन है
समझ नहीं आता Linux सपोर्ट क्यों नहीं है UI Chrome-आधारित लगता है (शायद electron), तो Linux पर पोर्ट करना भी आसान होना चाहिए source link भी जानना चाहूँगा
Electron खुद को cross-platform बताता है, लेकिन असल में 'एक बटन दबाकर Linux डिप्लॉय' जैसी बात नहीं होती glibc version की दिक्कतें, GPU support जैसी छोटी-बड़ी परेशानियाँ हमेशा रहती हैं
Ollama की आधिकारिक पंक्ति है: “Mac, Windows के लिए नया ऐप डाउनलोड करें / CLI वर्ज़न GitHub से अलग डाउनलोड करें” देखने पर यह open source जैसा नहीं लगता और यह Chrome नहीं बल्कि system webview इस्तेमाल करता है, इसलिए यह Tauri ऐप लगता है
कहते हैं कि यह Electron-आधारित है, इसलिए इसे native कहकर प्रचार करना थोड़ा अजीब लगता है
Linux डेवलपर्स या power users तो पहले से CLI के ज़रिए Ollama इस्तेमाल कर सकते हैं अभी का Mac/Windows ऐप आम यूज़र्स को ध्यान में रखकर बनाया गया है
लगता है Ollama कंपनियों के लिए open model deployment का standard interface बनना चाहता है 'लोकल' फोकस शायद एक साइड इफ़ेक्ट है, दीर्घकालिक लक्ष्य नहीं मुझे पूरा यक़ीन है कि जल्द ही यही ऐप एक bridge बनकर 'अपना cloud API + open model' रणनीति की घोषणा करेगा
मैं इस राय से सख़्ती से असहमत हूँ कि “लोकल” सिर्फ साइड इफ़ेक्ट है जो कंपनियाँ cloud-आधारित सेवाएँ इस्तेमाल नहीं कर सकतीं (जैसे defense कंपनियाँ), उनके लिए लोकल ही default है open model इस्तेमाल करने की असली वजह यही है, भले अभी उनकी performance पूरी न हो
हम भी Ollama इसलिए इस्तेमाल करते हैं क्योंकि डेटा किसी भी हालत में कंपनी के अंदरूनी नेटवर्क से बाहर नहीं जाना चाहिए अगर ज़रा-सा भी cloud शामिल हो जाए, तो legal team हंगामा कर देगी इसीलिए हम Ollama को laptop (M-series बहुत ताकतवर है) और आंतरिक intranet server दोनों पर सीधे चलाते हैं LM Studio ने हाल में commercial use के लिए बिना call-me pricing वाला बदलाव किया है, इसलिए इसे भी देखने का सोच रहे हैं
अगर आप power user हैं या coding कर सकते हैं, तो मैं सलाह दूँगा कि अपनी पसंद की custom chat UI खुद बनाकर इस्तेमाल करें कोई भी OpenAI-compatible endpoint और chat frontend component framework ले लें, बाकी काम लगभग आसान है मैंने भी Gemini की मदद से एक हफ़्ते में झटपट बना लिया और रोज़ इस्तेमाल करता हूँ यह production-ready नहीं है, लेकिन इसे अपनी ज़रूरत के हिसाब से बदला जा सकता है और नए फीचर भी सीधे जल्दी जोड़े जा सकते हैं
सचमुच यह “खुद Linux बना लीजिए” जैसे स्तर की सर्वश्रेष्ठ टिप्पणी है यह हर किसी के लिए आसान रास्ता नहीं है
मैंने भी AI·LLM तलाशते समय Python-आधारित अपना chatbot बनाया था, और उसके बाद [Vercel AI SDK+OpenAI-compatible API endpoint] तक इस्तेमाल किया आख़िर में उसे प्रोडक्ट भी बना दिया VT.ai - Python, VT Chat
मैं भी यही तरीका अपनाता हूँ असल में सबसे महत्वपूर्ण यह है कि आप कौन-सा मॉडल इस्तेमाल करते हैं, बाकी लगभग मामूली है मैं जो open source script इस्तेमाल करता हूँ(Show HN लिंक) भी एक बार देखें ChatGPT वगैरह की मदद से इसे बनाना आसान था, और मैं इसे रोज़ इस्तेमाल करता हूँ जल्द ही DDG, GitHub search भी जोड़ने वाला हूँ
या फिर Open WebUI को ही बेस बनाकर इस्तेमाल कर सकते हैं, और अपनी पसंद के मुताबिक जितना चाहें कस्टमाइज़ कर सकते हैं
मैं अपनी परफेक्ट LLM chat interface की तलाश में हूँ ज़रूरी शर्त यह है कि वह लोकल/remote/cloud (OpenAI API-compatible) मॉडल एक साथ सपोर्ट करे, और मॉडल बदलना या multi-query करना आसान हो अभी तक का अनुभव:
Msty: मुझे सबसे ज़्यादा पसंद है, कई मॉडलों से एक साथ query कर सकता है + डिज़ाइन आकर्षक है, कमी यह कि open source नहीं है + Linux पर कभी-कभी freeze हो जाता है
Jan.ai: कई मॉडलों पर एक साथ query नहीं कर सकता
LM Studio: open source नहीं है + remote/cloud मॉडल सपोर्ट नहीं करता (प्लगइन है या नहीं, पक्का नहीं)
GPT4All: openrouter मॉडल इस्तेमाल करते समय JSON error आती है, और हर चैट में मॉडल मैन्युअली बदलना पड़ता है, जो असुविधाजनक है मैंने अभी तक Librechat, Open WebUI, AnythingLLM, koboldcpp टेस्ट नहीं किए हैं अगर किसी के पास कोई और सिफारिश हो तो सुनना चाहूँगा
webUI मुझे पसंद है, लेकिन हर मॉडल के लिए ब्राउज़र के अंदर टेक्स्ट फ़ाइल से सेटिंग करना जटिल है, और दस्तावेज़ों की शब्दावली भी कठिन है Librechat थोड़ी ही देर में लॉगआउट कर देता है, इसलिए लगभग इस्तेमाल-लायक नहीं है सुना है कि https से लॉगिन बनाए रखा जा सकता है, लेकिन Tailscale इस्तेमाल करने पर एक ही होस्ट पर कई सेवाएँ चलाते समय दिक्कत होती है
मैंने खुद बनाया हुआ ऐप dinoki.ai भी है यह लोकल पर चलता है, privacy-first है, और macOS पर Swift, Windows पर WPF के साथ native implementation है
OpenWebUI इतनी आसानी से अलग-अलग मॉडलों के साथ चैट करने देता है कि वही मेरी चाही हुई क्वालिटी है
मैं कई महीनों से AnythingLLM इस्तेमाल कर रहा हूँ और बहुत संतुष्ट हूँ कई “workspace” में मॉडल/prompt सेट सेव किए जा सकते हैं, Ollama और दूसरे LLM दोनों सपोर्ट करता है मैंने इसे Raspberry Pi पर Docker में चलाया है, और Tailscale से कहीं से भी एक्सेस कर लेता हूँ मोबाइल स्क्रीन भी अच्छी लगती है, और Raycast Claude extension के साथ तो लगभग हर सवाल का समाधान हो जाता है
मैं भी खुद बनाने की सलाह दूँगा नए ट्रेंड सीखने को मिलते हैं, और मज़ा भी आता है मैंने 2023 में अपना इंटरफ़ेस बनाया था, फिर धीरे-धीरे फीचर जोड़ता गया, और हाल में MLX के जरिए लोकल मॉडल भी जोड़ दिए सोच से कहीं आसान है इंटरफ़ेस बनाना, और डेवलपर्स खुद करके बहुत कुछ सीखते हैं
मैंने Ollama को पहले एक बार इस्तेमाल किया था और तुरंत हटा दिया था अगर Ollama पर आधिकारिक रूप से सपोर्टेड मॉडल ही आसानी से इंस्टॉल न किए जा सकें, तो मुझे वह असुविधाजनक लगता है उसके बाद से मुझे LM Studio सबसे बेहतर लगा