Kimi K2 Thinking, SOTA ओपन सोर्स ट्रिलियन-पैरामीटर reasoning मॉडल

• Kimi K2 Thinking एक ऐसा ओपन सोर्स reasoning मॉडल है जो tools का उपयोग करते हुए step-by-step सोचता है और जटिल समस्या-समाधान में मानव-स्तर की thinking process को लागू करता है
• Humanity’s Last Exam(HLE), BrowseComp, SWE-Bench Verified जैसे प्रमुख benchmarks में state-of-the-art (SOTA) प्रदर्शन हासिल
• अधिकतम 200~300 लगातार tool calls करता है, और test-time scaling के जरिए thinking tokens और tool-calling steps दोनों को साथ में बढ़ाता है
• Agentic reasoning·search·coding क्षेत्रों में खास प्रदर्शन दिखाता है और जटिल गणित, coding, और web navigation समस्याओं को long-term planning के साथ हल करता है
• INT4 quantization-आधारित inference efficiency से 2 गुना speed improvement और GPU memory reduction हासिल, और बड़े open source मॉडलों में सर्वोच्च स्तर की efficiency सुनिश्चित

---

Kimi K2 Thinking परिचय

• Kimi K2 Thinking, Moonshot AI द्वारा जारी किया गया उच्चतम प्रदर्शन वाला ओपन सोर्स thinking मॉडल है
  • tool उपयोग के दौरान भी step-by-step reasoning करने वाली ‘thinking agent’ संरचना
  • HLE, BrowseComp आदि में SOTA रिकॉर्ड
• test-time scaling के जरिए thinking tokens की संख्या और tool-calling steps को एक साथ बढ़ाता है
• फिलहाल kimi.com के chat mode में उपलब्ध है, और full agentic mode जल्द जारी होने वाला है
• API के जरिए external integration संभव है

मूल्यांकन परिणाम

• HLE(tool use) 44.9%, BrowseComp 60.2%, SWE-Bench Verified 71.3% हासिल
• multi-domain expert-level problem solving में consistent generalization ability साबित
• Agentic reasoning·search·coding के पूरे क्षेत्र में मौजूदा मॉडलों की तुलना में बेहतर प्रदर्शन

Agentic Reasoning

• Humanity’s Last Exam(HLE) में 44.9% के साथ शीर्ष रिकॉर्ड हासिल
  • 100 से अधिक academic disciplines के expert-level प्रश्नों वाला closed benchmark
  • search, Python, web browsing tools का संयुक्त उपयोग
• 23 steps की reasoning और tool calls को बारी-बारी से चलाकर PhD-स्तर की गणित समस्या हल करने का उदाहरण प्रस्तुत
• सैकड़ों चरणों की planning, reasoning, execution, और adaptation के जरिए जटिल academic समस्याएँ हल कर सकता है

Agentic Coding

• SWE-Multilingual 61.1%, SWE-Bench Verified 71.3%, Terminal-Bench 47.1% दर्ज
• HTML, React जैसे frontend component-केंद्रित कार्यों में उच्च गुणवत्ता
• tool calls के माध्यम से multi-step development workflow चलाता है और सटीक तथा लचीला code generation समर्थित करता है
• एक ही prompt से website, document editor जैसे complex applications बनाने के उदाहरण प्रस्तुत

Agentic Search and Browsing

• BrowseComp 60.2% के साथ मानव baseline (29.2%) से काफी ऊपर
  • real-time web information collection और reasoning क्षमता साबित
• 200~300 लगातार tool calls के साथ long-term planning और adaptive reasoning लागू
• “सोच → search → browser उपयोग → सोच → coding” के दोहराए जाने वाले loop के जरिए
  जटिल open-ended समस्याओं को structured subtasks में विभाजित करता है

सामान्य क्षमताएँ (General Capabilities)

• creative writing: समृद्ध अभिव्यक्ति और भावनात्मक गहराई वाली narratives तैयार करना
• practical writing: तार्किक संरचना और निर्देशों की सटीकता में सुधार, academic और research content के लिए उपयुक्त
• emotional responses: सहानुभूतिपूर्ण और ठोस सलाह देना, अधिक मानवीय संतुलन प्रदान करना

Inference Efficiency

• INT4 weight-only quantization(QAT) लागू कर 2x speed improvement और memory reduction हासिल
• बड़े पैमाने के inference में भी performance loss के बिना सटीक thinking process बनाए रखता है
• सभी benchmark परिणाम INT4 precision के आधार पर रिपोर्ट किए गए हैं

समग्र प्रदर्शन तुलना

• प्रमुख benchmarks में GPT‑5, Claude Sonnet 4.5, DeepSeek‑V3.2 आदि के साथ बराबर या बेहतर प्रदर्शन
• Reasoning·Coding·Agentic Search के सभी क्षेत्रों में ओपन सोर्स का सर्वोच्च स्तर हासिल

---

सारांश:
Kimi K2 Thinking एक trillion-parameter class का open source reasoning मॉडल है जो tools-आधारित step-by-step thinking करता है,
और जटिल समस्या-समाधान तथा long-term planning में SOTA स्तर का प्रदर्शन और efficiency एक साथ हासिल करने वाला नवीनतम AI सिस्टम है।

[GN⁺]

Hacker News की राय

• uv tool install llm से Moonshot Kimi-K2-Thinking मॉडल इंस्टॉल किया, और llm -m moonshot/kimi-k2-thinking 'Generate an SVG of a pelican riding a bicycle' कमांड से SVG जनरेट किया
  नतीजा इस लिंक पर देखा जा सकता है
  OpenRouter के moonshotai/kimi-k2-thinking से चलाने पर नतीजा इस वर्ज़न की तरह कहीं ज़्यादा परिष्कृत निकला

  • लगता है OpenRouter का नतीजा quantized होस्टिंग प्रोवाइडर से आया है
    Moonshot के direct API call से तुलना करें तो लगभग ज़मीन-आसमान का फ़र्क है
    OpenRouter अकाउंट स्तर पर नहीं बल्कि सिर्फ API स्तर पर quantization सीमा लगाता है, इसलिए user experience थोड़ा उलझाने वाला है
  • हर नया मॉडल आने पर यह benchmark और भी ज़्यादा प्रतीकात्मक होता जा रहा है, यह दिलचस्प है
    GPT-5 श्रेणी की क्षमता अब भी यक़ीन करना मुश्किल लगती है, लेकिन open source मॉडल लगातार और ज़्यादा ambitious कोशिशें कर रहे हैं, यह अच्छा लगता है
  • क्या रन करते समय temperature को 0 पर फ़िक्स करके consistency बनाए रखी गई थी, यह जानने की उत्सुकता है
  • 1 ट्रिलियन पैरामीटर मॉडल आखिर चलता कहाँ है, यह जानना दिलचस्प होगा

• competition बढ़ना और open source का बढ़ना अच्छी बात है, लेकिन मुझे विशाल मॉडलों से ज़्यादा यह देखना दिलचस्प लगता है कि छोटे LLM + agent संयोजन coding और reasoning में कितना अच्छा कर सकते हैं
  आदर्श रूप से यह local या सस्ते cluster पर चल सके
  OpenAI का मूल लक्ष्य पूरी मानवता का लाभ था, लेकिन अब वह paid-केंद्रित संरचना में बदल गया है, इसलिए अफ़सोस होता है कि फ़ायदा सिर्फ़ संपन्न लोगों तक सिमटता दिख रहा है

  • ऐसे small model प्रयोग पहले से काफ़ी हो रहे हैं
    लेकिन नतीजे अभी पर्याप्त नहीं हैं, और अगर प्रभावी छोटे मॉडल बन गए होते तो बड़े मॉडल के अस्तित्व की ज़रूरत ही नहीं रहती
    बेशक, कोई नया आइडिया आए तो यह तस्वीर बदल सकती है
  • मैं भी पहले “सबसे स्मार्ट मॉडल” को लेकर जुनूनी था, लेकिन इस्तेमाल करके देखा तो छोटे मॉडल कहीं तेज़ी से वही काम कर देते हैं
    इसलिए अब मेरा लक्ष्य “मेरे काम को हल कर सकने वाला सबसे छोटा मॉडल” खोजना है
    ऊँचे benchmark score अब मुझे over-spec और बर्बादी का संकेत ज़्यादा लगते हैं
  • अगर इसे “open source” कहना है, तो training data डाउनलोड करने और end-to-end retraining scripts भी शामिल होने चाहिए
    सिर्फ़ inference binary बाँटकर उसे open source कहना ग़लत इस्तेमाल है
  • समझ नहीं आता कि विशेषज्ञता-स्तर के ultra-small model क्यों नहीं आ रहे
    उदाहरण के लिए, जो सिर्फ Go इस्तेमाल करता है उसे सिर्फ Go मॉडल ही चाहिए
    अगर कई specialized models को memory में swap करके इस्तेमाल किया जाए तो यह कहीं ज़्यादा efficient लग सकता है
    लेकिन ज़्यादातर लोग अब भी विशाल general-purpose models के पीछे हैं
    मैंने सिर्फ CoPilot subscription और Ollama जैसा इस्तेमाल किया है, लेकिन आगे चलकर 1~2B आकार के कई मॉडलों के संयोजन का दौर आ सकता है
  • असल में बड़े मॉडलों की प्रगति ज़्यादातर optimization और scaling की वजह से है
    लेकिन यही तकनीक आगे चलकर छोटे मॉडलों की performance improvement में भी मदद करती है
    DeepSeek इसका अच्छा उदाहरण है; बड़े मॉडल की innovations छोटे मॉडल को भी फ़ायदा देती हैं
    वैसे यह मॉडल MoE संरचना का है, जिसमें एक बार में सिर्फ़ 32 बिलियन पैरामीटर सक्रिय होते हैं

• पिछले कुछ महीनों में चीन की चार कंपनियों (DeepSeek, Qwen/Alibaba, Kimi/Moonshot, GLM/Z.ai) ने बेहतरीन open source मॉडल जारी किए हैं
  अमेरिका या यूरोप की कंपनियों, यहाँ तक कि Meta तक की ओर से ऐसी हलचल नहीं दिख रही। वजह क्या है?

  • बेशक OpenAI ने भी अगस्त में GPT-OSS जारी किया था
    Qwen 235 भी अच्छा है, लेकिन “open source” का मतलब open weight है या पूरी तरह खुला, यह अब भी स्पष्ट नहीं है
  • चीनी कंपनियों की latest GPU तक पहुँच सीमित है, इसलिए वे open source रिलीज़ की रणनीति अपनाती हैं
    दूसरी तरफ़ अमेरिकी कंपनियाँ भारी GPU निवेश लागत वसूलना चाहती हैं, इसलिए वे खुला करने से बचती हैं
  • एक और वजह privacy concerns हैं, जिनके कारण paid customer कम हैं
    आखिरकार मुफ़्त रिलीज़ के अलावा उनके पास और विकल्प नहीं बचता
  • लगता है Meta ने DeepSeek के बाद open weight strategy छोड़ दी है

• उदाहरण थोड़े cherry-picked लग सकते हैं, लेकिन फिर भी यह चौंकाने वाला है
  workflow में OSS मॉडल इस्तेमाल कर चुके व्यक्ति के रूप में मैं उसकी सीमाएँ अच्छी तरह जानता हूँ, फिर भी यह नतीजा frontier मॉडल के लिए भी कठिन स्तर का है
  आगे की प्रगति को लेकर उत्सुकता है

  • व्यक्तिगत रूप से Kimi benchmark से कहीं ज़्यादा “स्मार्ट महसूस होने वाला मॉडल” लगता है
    शायद अमेरिकी लैब्स की तरह score-target tuning कम होने की वजह से

• OpenRouter pricing page के मुताबिक input के लिए प्रति 10 लाख token $0.60 और output के लिए $2.50 है
  इस स्तर की performance के हिसाब से यह समकक्ष मॉडलों से 4 गुना सस्ता है; समझ नहीं आता कि यह घाटे में hosting है या बाकी मॉडल बहुत बड़ा margin रख रहे हैं

  • training cost को छोड़ दें तो बाकी मॉडल काफ़ी बड़ा margin रख रहे हैं
    ज़्यादा जानकारी के लिए यह लेख देखें
  • OpenRouter के open source मॉडल hardware लागत के आसपास charge करते हैं
    कुछ मॉडल subsidized infrastructure पर चलते हैं, इसलिए संभव है कि वास्तविक रूप से मुनाफ़ा बचता हो

• हाल में ‘stacking problem’ को इंसानों जैसी तरह हल करने वाला यही एक मॉडल था
  संबंधित लेख में 9 अंडों से भार वितरित करने की अवधारणा समझना मुख्य बिंदु था

  • लेकिन किसी ने यह भी कहा कि “हो सकता है वह समस्या खुद training data में शामिल रही हो”
  • एक दूसरे user ने वास्तविक बातचीत का उदाहरण साझा किया, जिसमें मॉडल कई बार feedback मिलने के बाद भौतिक रूप से संभव stack configuration तक पहुँचता दिखा
    आख़िर में उसने “किताब → बोतल → लैपटॉप → कील” क्रम में व्यवस्थित करके व्यावहारिक जवाब दिया

• यह जानने की जिज्ञासा है कि “Reasoning model” वास्तव में क्या होता है
  क्या इसका मतलब सिर्फ़ system prompt में scratchpad tokens का dynamic उपयोग करने वाला मॉडल है, या फिर इस तरह fine-tuned मॉडल को कहा जाता है — यह थोड़ा भ्रमित करता है

  • दूसरा वाला। यानी मध्यवर्ती सोच प्रक्रिया सीखने के लिए fine-tuned मॉडल
    सिर्फ़ prompt से उसकी नकल करने की तुलना में यह कहीं ज़्यादा प्रभावी है
  • आम तौर पर इसका मतलब ऐसे मॉडल से है जो <think></think> जैसे tokens के भीतर आंतरिक सोच करके फिर जवाब देता है
    ऐसे फ़ॉर्मैट RL या format-based reward learning से प्रशिक्षित किए जाते हैं

• non-thinking वर्ज़न की writing quality सबसे बेहतर है
  लगता है कि इसने दूसरी frontier labs से अलग कोई नया approach आज़माया है, इसलिए उम्मीद बढ़ती है

  • मुझे उलटा लगा। यह घर पर चल सकने वाला सबसे बड़ा मॉडल होने के कारण पसंद है, लेकिन इसका ज़रूरत से ज़्यादा structured output उल्टे कृत्रिम लगता है
    पिछले वर्ज़न से बहुत अलग नहीं लगा, यह थोड़ा निराशाजनक है
  • फिर भी Kimi K2 में मॉडल की समझ परिपक्व और polished लगती है

• अच्छा होगा अगर AWS Bedrock या Google Vertex पर data residency की गारंटी के साथ इसका इस्तेमाल किया जा सके

  • पिछली मॉडल की तरह इसके weights सार्वजनिक हैं, इसलिए लगता है कि जल्द ही third-party hosting पर भी उपलब्ध होगा
    Hugging Face लिंक
  • non-thinking वर्ज़न पहले से Vertex AI पर उपलब्ध है
    यह मॉडल sequential tool use और needle-in-a-haystack RAG performance पर ज़ोर देता है, और यही चीज़ें वास्तविक कामकाजी माहौल में सबसे ज़्यादा ज़रूरी हैं
    संदर्भ के लिए, Thoughtworks ने हाल ही में text-to-sql को Hold स्थिति में डाल दिया है

• यह पहले से OpenRouter पर भी उपलब्ध है

  • हालाँकि इस समय latency काफ़ी ज़्यादा है