LM Studio Bionic: ओपन मॉडल्स के लिए AI एजेंट

 (lmstudio.ai)
1 पॉइंट द्वारा GN⁺ 5 시간 전 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • LM Studio Bionic एक अलग ऐप है जो coding, research और document work को local या cloud में open models से संभालता है, ताकि आप privacy और AI इस्तेमाल की लागत पर सीधे control रख सकें
  • models को device पर सीधे चलाया जा सकता है या LM Link से connect किया जा सकता है, और complex tasks के लिए LM Studio Secure Cloud के बड़े open source models चुने जा सकते हैं
  • voice keyboard, Mistral AI के multilingual real-time transcription model Voxtral का उपयोग करके किसी भी app में voice को device के अंदर ही text में बदलता है
  • coding के लिए codebase investigation, editing, debugging और inline diff मिलते हैं; document work के लिए sandbox processing, web search, automatic checkpoints और in-app preview उपलब्ध हैं
  • सभी users पर Zero Data Retention और user data से training न करने की policy लागू होती है, और cloud requests भी processing पूरी होने के बाद store नहीं की जातीं

Coding, voice और document work

  • Bionic agent coding और document work पर focus करता है, और task के हिसाब से suitable model और compute environment चुनकर cost adjust की जा सकती है

  • device के अंदर काम करने वाला voice keyboard

    • local audio model से ideas, prompts और edits को device के अंदर transcribe करता है
    • launch के समय Mistral AI का high-performance multilingual real-time transcription model Voxtral उपलब्ध होगा
    • किसी भी app में voice keyboard शुरू करने पर transcription result मौजूदा cursor position पर enter हो जाता है

  • local codebase संभालने वाले Code projects

    • local folder connect करने पर codebase investigate किया जा सकता है, unfamiliar code समझाया जा सकता है या changes और debugging की जा सकती है
    • inline diff के जरिए code changes review किए जा सकते हैं
    • agentic code search से related files ढूंढी जाती हैं और behavior trace किया जाता है
    • supported models में GLM 5.2 और Kimi K2.7 Code शामिल हैं

  • documents, presentations और spreadsheets के लिए Work projects

    • documents, PDFs, presentations, spreadsheets आदि संभालता है या नई सामग्री scratch से बनाता है
    • documents को sandbox environment में process करता है, जिससे वे बाकी computer और files से isolated रहते हैं
    • local directories organize करना, files edit करना, materials summarize करना और built-in web search से external information का इस्तेमाल करना support करता है
    • automatic checkpoints से changes review या revert किए जा सकते हैं, और in-app preview में materials और workflow को साथ-साथ manage किया जा सकता है
    • अधिक file formats का preview support करने के लिए coverage लगातार बढ़ाने की योजना है

Local, connected और cloud model execution

  • Bionic app में latest local LLMs download करके simple chat से advanced agent tasks तक किए जा सकते हैं, और local execution LM Studio runtime पर based है
  • task के अनुसार तीन execution methods चुनी जा सकती हैं
    • device पर local model चलाना
    • LM Link के जरिए model connect करना
    • LM Studio Secure Cloud में बड़े frontier open source models का उपयोग करना
  • Secure Cloud coding, reasoning, tool calling और long-context tasks में मजबूत latest open models प्रदान करता है
    • cloud requests temporarily process होती हैं और completion के बाद store नहीं की जातीं
    • सभी Bionic user data पर Zero Data Retention लागू होता है और इसे training में भी use नहीं किया जाता

installation और usage conditions

  • LM Studio Bionic मौजूदा LM Studio से अलग नया app है
    • अगर low-level advanced settings चाहिए, तो मौजूदा LM Studio को Bionic के साथ use करना जारी रख सकते हैं
    • cloud models use करने के लिए LM Studio account बनाना और payment setup करना होगा
    • project connect करके और model चुनकर Bionic agent से काम शुरू किया जा सकता है
  • open models की performance improvements और real projects के use cases को reflect करते हुए Bionic experience को लगातार improve करने की योजना है

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 5 시간 전
Hacker News की राय

  • मैं LM Studio का संस्थापक Yagil हूं। Bionic में GLM 5.2 / Kimi K2.6 / Kimi Coder K2.7 आज़माने के लिए अपना lmstudio.ai यूज़रनेम hn-jul16@lmstudio.ai पर भेजें, मैं क्रेडिट दे दूंगा
    कोडिंग के लिए “Code” प्रोजेक्ट और दस्तावेज़ बनाने/एडिट करने के लिए “Work” प्रोजेक्ट इस्तेमाल करें। Work प्रोजेक्ट में agent जब भी बदलाव करता है, automatic checkpoint बनता है; इस्तेमाल के बाद आपका feedback सुनना चाहूंगा

    • reasoning process देखने के लिए यह अच्छे agent execution frameworks में से एक है। कभी-कभी final response से ज़्यादा reasoning पढ़ना उपयोगी होता है, और Claude Code या Codex की तुलना में इसे ज़्यादा transparent तरीके से दिखाना मुझे पसंद है
      आपने कहा कि “providers” के साथ zero data retention (ZDR) पर negotiation की है, लेकिन जानना चाहूंगा कि models को LM Studio खुद host करता है या कोई दूसरा vendor। अगर बाहरी vendor है, तो कौन-सा, यह भी जानना चाहूंगा
    • मुझे LM Studio पसंद है और आज रात Bionic भी आज़माने वाला हूं। Android companion app का बेसब्री से इंतज़ार कर रहा हूं; iPhone users से ईर्ष्या होने लगी है
    • जानना चाहता हूं कि z.ai coding plan API key इस्तेमाल की जा सकती है या नहीं
    • LM Studio मुझे सच में बहुत पसंद है, लेकिन cloud और trust की ओर यह नया रुख कई लोगों का भरोसा खो सकता है। कंपनियां बार-बार “zero data retention” और “user data से training नहीं करते” जैसे वादे करती रही हैं, इसलिए यह फिर से “हम पर भरोसा करें” जैसा सुनाई देता है
      साइट पर कंपनी का location भी नहीं मिला, और ऐसा लगा जैसे 20 साल से झेली जा रही अमेरिकी शैली वाली “बस हम पर भरोसा करें” approach फिर export की जा रही हो

  • local models के लिए agent execution framework मेरा पहला अनुभव है, लेकिन LM Studio पसंद होने की वजह से Bionic तुरंत आज़माया, और first impression शानदार है। मैं मुख्यतः Codex इस्तेमाल करता हूं, और इसका UI उससे मिलता-जुलता है, इसलिए familiar लगा और शुरू करना आसान था। मौजूदा LM Studio model library को point करके Qwen3.6 35B चलाया तो अपेक्षित नतीजे मिले
    हालांकि सुधार की गुंजाइश भी दिखती है। default screen पर सिर्फ project name है, Codex की तरह current working directory साफ़ तौर पर नहीं दिखती। Enter दबाने पर model load करते समय “Loading model” की जगह “Working” दिखता है, और request भेजने से पहले pre-load करने या app बंद किए बिना LM Studio के eject button की तरह model unload करने का तरीका भी नहीं मिला। “GitHub & Projects” directory सेट करने पर उसी नाम का नया folder भी बन गया

  • अगर Apple के पास पर्याप्त अच्छे local models और execution framework आ जाते हैं, तो लगता है आम users में से ज़्यादातर वही इस्तेमाल करेंगे। आखिरकार क्या LLM computing का एक और interface बन जाएगा, यह सोचने वाली बात है

    • Apple का System Model काफ़ी अच्छा है, लेकिन context length 4K तक सीमित है। कम data process करने वाली छोटी Python utilities के लिए ठीक है, पर overall यह खटकने वाली सीमा है
      अलग से, latest iOS beta में Siri आश्चर्यजनक रूप से बेहतर हो गई है। मैंने पूछा कि कौन-सा model इस्तेमाल करती है, तो उसने जवाब दिया कि कठिन समस्याओं के लिए Gemini, फिर cloud में secure Apple model, और अंत में local Apple model इस्तेमाल करती है
    • मेरे हिसाब से आम user के ज़्यादातर कामों के लिए ChatGPT 3.5 era level का LLM पर्याप्त होगा। इसमें tool calling आदि जोड़कर और ऐसा model device में embed करके पहले उसी का उपयोग किया जाए, तो AI users दो हिस्सों में बंट सकते हैं: वे जो pay नहीं करना चाहते और वे जो frontier model performance के लिए बड़ी रकम देंगे
    • जवाब इस पर निर्भर है कि model progress इतना plateau कर पाता है या नहीं कि device-scale models frontier models की performance से मुकाबला कर सकें। अगर कर पाए, तो LLM नया computing interface बन जाएगा; नहीं तो मुश्किल है
    • neural network machines तो शुरू से ही von Neumann machines के वैकल्पिक computing paradigm बनने के लिए destined थीं। अगर Minsky न होते, तो शायद ये उपयोगी स्तर तक पहले पहुंच जातीं; समझ नहीं आता इसे छोटी-सी change की तरह क्यों बताया जा रहा है
    • Computing 1.0 में computer से पूरी तरह interact करने के लिए इंसानों को computer की भाषा सीखनी पड़ती थी, लेकिन Computing 2.0 में मानो computer ने इंसानों की भाषा सीख ली है

  • जानना चाहता हूं कि दूसरे agent execution frameworks की जगह इसे क्यों चुनना चाहिए। खासकर cost और data security की वजह से cloud frontier models के इस्तेमाल को control करना चाहने वाले enterprise package के रूप में इसकी ताकत दिखती है

    • Python या JavaScript code को बस loosely जोड़कर न बनाया गया, और फिर भी model-agnostic execution framework होना surprisingly rare है। ऐसे products और भी rare हैं जो context को फुलाने या बहुत ज़्यादा compress करने जैसी बेवकूफाना हरकतों से बचते हैं
      vibe coding से बने होने की संभावना वाले Python/JavaScript agents चलाना security और supply chain risk के लिहाज़ से बहुत जोखिमभरा लगता है, इसलिए मैं बचता हूं

  • कौन-सा local model बेहतर agent बनता है, यह test करना मज़ेदार था, लेकिन कुछ limitations हैं
    यह एक directory तक fixed रहता है, इसलिए पूरे system तक access नहीं है, और local web search भी नहीं है, हालांकि ddg या local MCP से इसकी भरपाई की जा सकती है। SSH नहीं है, इसलिए server में connect करके काम नहीं करवा सकते, और model load होने की प्रक्रिया भी नहीं दिखती, इसलिए progress bar या percentage चाहिए। Work directory में documents डालते समय “+” से add करने के अलावा drag-and-drop भी संभव है या नहीं, यह जानना चाहूंगा। मैं रोज़मर्रा के local environment में opencode और LM Studio साथ इस्तेमाल करता हूं, इसलिए आगे के development का इंतज़ार है

  • कहा गया है कि यह regular LM Studio से अलग app है, लेकिन download करने का तरीका नहीं मिल रहा

    • page के बिल्कुल नीचे अच्छी तरह छिपा हुआ है: https://lmstudio.ai/

  • LM Studio का agent workflows तक expand होना अच्छा है। local model tools लगातार बेहतर हो रहे हैं, और data को private रखना चाहने वाले developers के लिए open source विकल्पों की value बड़ी है

  • काश LM Studio AMD hardware को बेहतर support करे। Radeon पर बिना अलग setup के सीधे काम करने वाला polished solution बहुत ज़रूरी है

  • Ollama से LM Studio पर shift करने की एक वजह उसका business model था, लेकिन अब “LM Studio Secure Cloud के जरिए सबसे बड़े frontier open source models इस्तेमाल करना” वाला direction चिंताजनक लग रहा है

    • Unsloth Studio वास्तव में open source है, और quantized models को देखकर भी मुझे LM Studio से ज़्यादा Unsloth पर भरोसा है, इसलिए मैं उसे recommend करना चाहूंगा
    • निष्पक्षता से कहें तो Ollama ने भी अपनी cloud service को उतनी ही सक्रियता से push किया है
      Minimax, GLM, Kimi जैसे latest बड़े models कई महीनों बाद भी official downloadable versions नहीं देते और सिर्फ cloud version जारी करते हैं
    • Ollama शुरू से विवादों में रहा है, लेकिन मेरी जानकारी में LM Studio के साथ ऐसा नहीं हुआ। इसलिए मुझे थोड़ा ज़्यादा भरोसा है कि LM Studio यह transition कुल मिलाकर smooth तरीके से कर लेगा

  • LM Studio app और नया LM Studio Bionic app दोनों closed source हैं। कई लोगों को यह बात पता नहीं है, इसलिए याद दिलाना ज़रूरी है

    • Unsloth Studio open source है और industry-leading quantized models बनाने वाली Unsloth इसे चलाती है, इसलिए switch करने की सलाह दूंगा
    • closed source होना ही LM Studio को अक्सर न इस्तेमाल करने की मेरी सबसे बड़ी वजह है। नए models या quantized versions test करने के बाद मैं उन्हें llama.cpp से खुद host करता हूं
      LM Studio audio input जैसी features support नहीं करता और इसमें कभी-कभी ऐसे bugs भी होते हैं जो pure llama.cpp में नहीं हैं, इसलिए कुछ use cases में यह उल्टा नुकसानदेह हो सकता है
    • पहले से ही कई open source agent systems मौजूद हैं, और अगर UI पसंद हो तो OpenCode का beta desktop app भी है
      खासकर ऐसा closed source dev tool, जिसे बाद में paid करके access restrict किया जा सकता है, मुझे ज़रूरी नहीं लगता
    • कौन-सा tech stack इस्तेमाल किया गया है, और क्या यह native app है, यह जानना चाहता हूं। desktop app के तौर पर यह अपने use case के लिए काफ़ी well-designed है
    • closed source होना अपने-आप में controversy है या नहीं, इस पर मुझे संदेह है