ओपन मॉडल ने उम्मीद से ज़्यादा आज़ादी का एहसास क्यों दिया

• लगभग 2 साल से Claude और ChatGPT का इस्तेमाल कर रहा था, लेकिन opencode को अपने inference endpoint से जोड़ते ही उम्मीद से कहीं ज़्यादा आज़ादी का एहसास हुआ
• डेटा सिर्फ़ लैपटॉप और अपने स्वामित्व वाले endpoint के बीच आता-जाता रहा, जिससे नियंत्रण और मालिकाना एहसास और मज़बूत हुआ
• व्यक्तिगत Claude·ChatGPT प्लान अपग्रेड करने के बजाय, Modal द्वारा managed endpoint के रूप में जारी Kimi K3 को side project में इस्तेमाल करने का फ़ैसला किया
• लगभग 5 मिनट में opencode को अपने Modal endpoint का इस्तेमाल करने के लिए सेट करके चला लिया
• भड़कीले और बड़े editor की जगह vim खोलने जैसा सादा एहसास था, और दूसरे provider से बंधे कनेक्शन से बाहर निकलने जैसी आज़ादी मिली

---

अपने endpoint को चुनने की वजह

• व्यक्तिगत अकाउंट के लिए उपयुक्त Claude या ChatGPT प्लान नहीं था, इसलिए side project के लिए प्लान अपग्रेड करने के बजाय दूसरा विकल्प खोजा
• जिस Modal में काम करता है, उसने managed endpoint पर Kimi K3 जारी किया था, और उसकी performance ठीक-ठाक मानी जा रही थी, इसलिए उसे खुद आज़माने का फ़ैसला किया
  • इस फीचर के development में सीधे शामिल नहीं था, इसलिए पहले इसे इस्तेमाल नहीं किया था

opencode कनेक्शन ने इस्तेमाल का अनुभव कैसे बदला

• लगभग 5 मिनट में opencode को अपने Modal endpoint से जोड़कर चला लिया
• डेटा का लैपटॉप और अपने स्वामित्व वाले endpoint के बीच आना-जाना नियंत्रण और मालिकाना एहसास को बढ़ाता है
• opencode की खाली और सरल शुरुआती स्क्रीन, लंबे समय तक बड़े editor इस्तेमाल करने के बाद vim खोलने के अनुभव जैसी लगी
• दूसरे provider से बंधे हुए कनेक्शन के टूट जाने जैसी आज़ादी एक ऐसा बदलाव था जिसकी उम्मीद नहीं थी

[GN⁺]

Hacker News की राय

• Claude Code के लोकप्रिय होने की वजह यह है कि “मिलियन-डॉलर वाला SaaS बना दो” जैसी अस्पष्ट रिक्वेस्ट भर से भी यह हजारों लाइनों का code, तरह-तरह की surface-level exception handling और features एक साथ बना देता है
  छोटे और open मॉडल ऐसे कामों में कमजोर होते हैं, लेकिन असल development में पूरा app एक बार में मांगकर काम खत्म नहीं होता। पारंपरिक development की तरह छोटे और ठोस functions को बार-बार सुधारते जाएं, तो GLM भी Claude जितना या उससे बेहतर कर लेता है; और rubber duck debugging की तरह context साफ-साफ दें, तो ज्यादातर नतीजे बहुत साफ-सुथरे आते हैं

  • निजी तौर पर DeepSeek v4 Flash Opus जितना उपयोगी लगा। अगर आपके पास इतनी technical समझ है कि one-off tech demo मांगने के बजाय सही terminology में desired change को ठोस तरीके से बता सकें, तो यह काफी है; OpenRouter में credit डालने के बाद खर्च 1 dollar तक पहुंचने में भी काफी समय लगा
  • Opus 5 जैसे frontier models कई academic क्षेत्रों के elements को मिलाकर अस्पष्ट और अनुमान-आधारित requests से कभी-कभी publish करने लायक नए research results तक बनाने में भी बेहतरीन हैं
    पहले से ज्ञात methods को भी manual काम की तुलना में करीब 1/100 समय में implement करके ideas को तेजी से explore करने देते हैं, और NumPy या SciPy के अलावा third-party dependencies लगभग हटाकर scratch से implementation लिखते हैं, जिससे clarity और performance बढ़ती है
  • ये tools non-software engineers की entry barrier काफी कम कर देते हैं। Environmental data scientist के तौर पर frontend experience सीमित है, लेकिन कुछ हफ्तों तक Claude के साथ मिलकर partner के horse management में मदद करने वाला Android app पूरा किया और अभी testing चल रही है
    planning stage में इस्तेमाल होने वाली services और features को कई दिनों तक detail में specify किया था, लेकिन X implement करते हुए edit/delete features छूट जाने जैसी चीजें हुईं—यानी जो functions prompt में explicitly नहीं थे, वे गायब रह गए। core feature का proof of concept पहले ही बना लिया था, लेकिन इस्तेमाल में आसान interface नहीं था; Claude की वजह से समय की कमी के बावजूद जल्दी custom app बना पाया। अकेले करता, तो कम polished नतीजे में भी एक साल से ज्यादा लग जाता
  • “Microsoft Word का replacement program बना दो” जैसी अजीब request पर ChatGPT ने दशकों की exception handling, bug fixes, rare features और workflows समझाते हुए पूछा कि क्या सच में यही चाहिए। इसके उलट Claude ने वाकई बनाने के लिए तुरंत काम शुरू कर दिया, जो हैरान करने वाला था
  • जब open models भी पूरा app एक बार में बना सकेंगे, तो लगता है सब लोग मौजूदा “software development process” को जल्दी ही भूल जाएंगे

• DeepSeek V4 Flash की performance उम्मीद से काफी बेहतर है। मुख्य रूप से Claude 5 Opus-आधारित Claude Code और GPT-5.6 Sol-आधारित Codex इस्तेमाल करता हूं, लेकिन DS V4 Flash भी बहुत पीछे नहीं लगता; oh-my-pi या basic pi के साथ इस्तेमाल करें तो काफी शानदार है
  frontier models tool calling में बहुत मजबूत होते हैं, इसलिए assistant flows के लिए बेहतर रहते हैं, लेकिन execution environment को इस तरह optimize किया कि tools model के guessing style के अनुरूप फिर से लिखे गए, तो DS V4 Flash भी काफी अच्छी तरह काम करता है। छोटे models में first token latency और tokens per second काफी बेहतर होते हैं, इसलिए कई कामों में competitive हैं; यह पिछले साल के आखिर वाले Sonnet जैसा महसूस होता है, यानी काफी बढ़िया

  • weekend में खुद OpenClaw जैसा system बनाकर DeepSeek v4 Flash और Qwen को Matrix-based assistant के रूप में इस्तेमाल कर रहा हूं, और cost करीब 2 dollars/month है। accessible tools पर पूरा control मिल जाता है, इसलिए यह ChatGPT से ज्यादा उपयोगी है
    medical records की photo लेकर calendar में जोड़ सकता है, PDF को tag और OCR करके store कर सकता है, internet search और Google Maps data lookup भी कर सकता है। Home Assistant और open-source Alexa-जैसे system के साथ integrate करके voice से agent से बात भी कर सकता है

• असल में यह चतुराई से किया गया ad है, लेकिन setup वही था जिसके बारे में मुझे curiosity थी, इसलिए content अपने आप में ठीक है। हालांकि यह तय करने के लिए cost metrics चाहिए कि conversations सीधे NSA को न भेजने के लिए कितना extra cost उठाना पड़ेगा
  Claude और OpenAI को काफी subsidy मिलती है, ऐसा माना जाता है, इसलिए जानना चाहता हूं कि private endpoint पर Kimi K3 इस्तेमाल करना महंगा पड़ेगा या सस्ता

  • अगर जानना चाहते हैं कि cost के मुकाबले कितने “free” coding agents इस्तेमाल कर सकते हैं, तो Fable की research है: https://claude.ai/public/artifacts/2c9a5001-0b7e-4944-beb1-9...
  • OpenRouter में हर model page पर provider-wise pricing और data non-retention है या नहीं, यह दिखाने वाले icons मिलते हैं। account-wide protection rules सेट करके non-ZDR providers की routing भी block कर सकते हैं

• यह लेख अपने product का ad है। लेखक लंबे समय से active रहा हो और ईमानदारी से लिखा हो, फिर भी “मैंने अपना product इस्तेमाल किया और बहुत अच्छा लगा” वाली पोस्ट self-promotion से अलग नहीं है

  • पोस्ट पहले ही flagged हो चुकी है, इसलिए शायद बड़ा फर्क नहीं पड़ेगा, लेकिन ad का intention बिल्कुल नहीं था। किसी ने request नहीं किया था और न ही यह पहले से planned post थी; बस घर पर कुछ बनाने की capacity मिली, development में मदद के लिए LLM और product के अंदर इस्तेमाल होने वाले LLM दोनों की जरूरत थी, इसलिए दिमाग में आ रहे Modal endpoints try किए
    Claude plan upgrade नहीं करना चाहता था, और अगर यह interesting नहीं लगता तो पोस्ट भी नहीं लिखता। पोस्ट लिखने की असली वजह “Modal cool है” नहीं, बल्कि article में describe किया गया feeling था। ad जैसा लगेगा, इस चिंता में link हटाने पर भी विचार किया था; जिस company में काम करता हूं उसने cool काम किया, यह बस एक side benefit था
  • HN पर Anthropic को promote करने वाले blog posts लगातार आते रहते हैं; वे ads नहीं हैं और सिर्फ यह post ad है—यह criterion समझना मुश्किल है
  • अगर product सच में अच्छा है, तो developer खुद promotion क्यों नहीं कर सकता
  • post को रखना हो तो title के आगे Show HN लगाना ज्यादा उचित होगा
  • HN की कई posts self-promotion होती हैं, और कोई post interesting है या नहीं, यह front page तक पहुंचने की प्रक्रिया में छंट जाता है। interesting self-promotion फिर भी interesting ही होती है

• GLM 5.2 Opus से बेहतर लगता है और K3 Fable जितना अच्छा है। उम्मीद है K3 को Qwen 3.6 27b या Poolside S 2.1 के scale पर distill करके तेज local Composer 2.5 replacement आएगा

• बड़े frontier model से Composer जैसे फुर्तीले model पर switch करने पर कभी-कभी वैसा ही अहसास होता है जैसा चमकदार और भारी editor के बजाय vim खोलने पर होता है
  तेज model के साथ सोचने और Q&A का loop ज्यादा smooth रहता है, कुछ-कुछ vim में files के बीच तेजी से move करने वाले flow जैसा

• OpenCode का लगभग खाली-सा interface पसंद है। यह clean, हल्का और passive तरीके का है, इसलिए आजकल के चमकदार लेकिन धीमे internet tools से अलग speed feel देता है

  • Pi Agent और भी हल्का लगता है, इसलिए try करने लायक है

• यह लेख Modal ad जैसा दिखता है। अगर hardware rent किया गया है, तो क्या उसे सच में अपनी infrastructure कहा जा सकता है, यह भी सवाल है

• Chinese-made होने या न होने से अलग, hosted model इस्तेमाल करते समय यह चिंता करनी चाहिए कि trade secrets कहां भेज रहे हैं और पता भी है या नहीं
  local model भी try किया, लेकिन base MPB M5 16GB पर धीमा है, और फिलहाल laptop upgrade करने की योजना भी नहीं है