Kimi K3 जारी - ओपन frontier intelligence

 (kimi.com)
1 पॉइंट द्वारा GN⁺ 4 시간 전 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • Kimi K3 2.8 ट्रिलियन parameters, native vision और 1 मिलियन token context के साथ लंबे समय की coding/knowledge work/reasoning के लिए बनाया गया दुनिया का पहला सार्वजनिक 3T-class model है
  • Kimi Delta Attention/Attention Residuals और 896 experts में से 16 को activate करने वाले Stable LatentMoE को लागू कर Kimi K2 की तुलना में कुल scaling efficiency लगभग 2.5 गुना बढ़ाई गई
  • GPU kernel optimization/compiler development/3D game creation/chip design/scientific research आदि में न्यूनतम human intervention के साथ लंबे समय तक काम करता है, और कुछ coding/agent benchmarks में closed models से मुकाबला करता है या उनसे आगे परिणाम दर्ज करता है
  • Kimi.com/Kimi Work/Kimi Code/Kimi API पर तुरंत इस्तेमाल किया जा सकता है; launch के समय maximum reasoning effort default है और पूरे model weights 27 जुलाई 2026 तक जारी करने की योजना है
  • overall performance और user experience Claude Fable 5 और GPT 5.6 Sol तक नहीं पहुंचते; इसकी सीमाएं हैं कि यह thought history देने के तरीके के प्रति sensitive है और ambiguous situations में user की ओर से जरूरत से ज्यादा निर्णय ले सकता है

2.8 ट्रिलियन parameters वाला सार्वजनिक model

  • Kimi K3, Kimi द्वारा जारी models में सबसे high-performing model है, जो 2.8 ट्रिलियन parameters/1 मिलियन token context/native vision को support करता है
  • overall performance Claude Fable 5 और GPT 5.6 Sol से कम है, लेकिन internal evaluations में लगातार अन्य comparison models से आगे रहा और frontier-class results दिखाए
  • पिछले 12 महीनों में से 9 महीनों तक Kimi models ने public model size की upper limit को update किया है, और K3 पहली बार 3T-class तक पहुंचा है
  • Kimi.com/Kimi Work/Kimi Code/Kimi API पर उपलब्ध है
  • launch version default रूप से maximum reasoning effort का उपयोग करता है; low effort/high effort modes बाद के updates में जोड़े जाएंगे
  • inference service providers और open-source maintainers technical details को adjust कर रहे हैं, और पूरे weights और technical report 27 जुलाई 2026 तक जारी करने की योजना है

KDA/AttnRes/Stable LatentMoE architecture

  • Kimi Delta Attention(KDA) लंबे sequences में attention को efficiently scale करने का आधार देता है
  • Attention Residuals(AttnRes) हर layer की representations को समान रूप से accumulate करने के बजाय model depth direction में जरूरी representations को selectively लाता है
  • Mixture of Experts sparsity को बढ़ाकर Stable LatentMoE architecture में 896 experts में से केवल 16 activate किए जाते हैं
  • architecture changes और training/data recipe improvements को मिलाकर Kimi K2 की तुलना में total scaling efficiency लगभग 2.5 गुना बढ़ी है
  • बड़े sparse models की routing और optimization के लिए कई techniques लागू की गईं
    • Quantile Balancing router score quantiles से expert allocation को सीधे calculate करता है, जिससे heuristic updates और sensitive balancing hyperparameters हट जाते हैं
    • Per-Head Muon हर attention head को independently optimize कर large-scale training की adaptability बढ़ाता है
    • Sigmoid Tanh Unit(SiTU) activation values को control करता है और Gated MLA attention selectivity बढ़ाता है

Training और inference infrastructure

  • SFT stage से ही quantization-aware training लागू की जाती है, और व्यापक hardware compatibility के लिए MXFP4 weights/MXFP8 activations इस्तेमाल किए जाते हैं
  • large-scale expert parallelization में expert imbalance से throughput कम न हो, इसके लिए fixed tensor shapes और critical path में host synchronization हटाने वाला fully balanced expert-parallel training method पेश किया गया है
  • inference के दौरान wide high-bandwidth communication domain की जरूरत होती है, इसलिए 64 या अधिक accelerators जोड़ने वाली supernode configuration की सिफारिश की जाती है
  • KDA द्वारा existing prefix caching के सामने आने वाली समस्या हल करने के लिए implementation vLLM community में contribute किया गया है, और model के साथ जारी किया जाएगा
  • KDA prefill cache का उपयोग करके model size और long context के बावजूद competitive token pricing पर service दी जा सकती है

लंबे समय की coding और visual feedback

  • न्यूनतम human supervision के साथ लंबे engineering sessions जारी रख सकता है, बड़े repositories explore कर सकता है और terminal tools coordinate कर सकता है
  • software engineering और visual reasoning को जोड़कर screenshots और execution results देखते हुए game development/frontend/CAD outputs को iteratively improve करता है
  • code और actual screen के बीच iteration करने वाले vision in the loop तरीके से images और videos को executable interactive outputs में बदलता है
  • development के late stage में शुरुआती Kimi K3 ने team के GPU kernel optimization work का अधिकांश हिस्सा संभाला

GPU kernel optimization

  • उसी sandbox में model-wise maximum 24 घंटे तक AttnRes/KDA/MLA kernels को profile और modify करने के लिए evaluate किया गया
  • Kimi K3 ने Fable 5 के potential fallback results से मुकाबला किया, और Opus 4.8/GPT 5.6 Sol/GPT 5.5 की तुलना में overall higher results दर्ज किए

  • AttnRes

    • 96 layers/model dimension 8,192/8,192 tokens वाली production shape की FLA Triton implementation को numerical results बदले बिना optimize किया
    • 15 घंटे तक iterative work कर नया two-stage kernel algorithm design किया और कई kernels fuse किए
    • forward और backward time को 283.6ms से 114.4ms तक घटाया
    • Fable 5 के potential fallback result जैसी final performance दी, लेकिन K3 की per-iteration optimization speed ज्यादा तेज थी

  • DSA

    • DeepSeek-V3.2 के साथ aligned hyperparameters और 1 मिलियन token sequences इस्तेमाल करने वाली real training setup में TileLang-based DSA kernel optimize किया
    • baseline implementation के मुकाबले end-to-end time 55.1% कम किया, Fable 5 के 57.3% के बाद second result रहा

  • MLA-512

    • baseline kernel के बिना batch 1/64 heads/8,192 tokens/head dimension 512 वाला MLA kernel scratch से लिखा
    • forward और backward में 517.8 TFLOPS हासिल किए, जो H200 theoretical BF16 peak के आधे से ज्यादा है
    • अगले highest model के 492.7 TFLOPS से आगे रहा

  • KDA on GPGPU

    • CUDA और software stack/memory behavior से अलग alternative vendor के general-purpose GPU पर FLA Triton KDA implementation optimize किया
    • profiling से performance model नए सिरे से बनाकर forward और backward time को baseline implementation से 73.6% कम किया
    • बताया कि further improvements की गुंजाइश संभवतः बाकी है

  • Evaluation notes

    • Claude Fable 5 का evaluation third party ने किया था और कुछ results में fallback behavior शामिल हो सकता है
    • कई models के कुछ execution paths ने allowed numerical error range के भीतर छोटे precision reductions का उपयोग किया

MiniTriton GPU compiler

  • Kimi K3 ने Triton जैसे छोटे GPU programming system MiniTriton को scratch से develop किया
  • MLIR के ऊपर custom tile-level intermediate representation बनाया और optimization passes/PTX code generation pipeline/runtime implement किए
  • supported roofline benchmarks में Triton और torch.compile के समान या बेहतर performance दी, और कुछ tasks में Triton से आगे रहा
  • nanoGPT की full training stable तरीके से की और loss curve भी reference implementation से केवल छोटे अंतर के साथ converge हुआ
  • DSL frontend से IR optimization/PTX generation/runtime तक coherent full compiler बनाया, और scratch से लिखा Tensor Core path भी Triton के optimized stack से मुकाबला करता है

3D games और digital creation

  • Kimi K3 ने Three.js WebGPU और GPU compute का उपयोग कर procedurally generated browser-based 3D exploration game बनाया
  • forest/log-cabin village/snowy mountains/dynamic weather वाला open world बनाया, और 3D asset generation tool से rider और horse models बनाए
  • animated cowboy/horse models और terrain data के लिए external assets इस्तेमाल किए गए
  • output 3D Open World पर देखा जा सकता है

Model के लिए chip design

  • Kimi K3 ने अपनी architecture इस्तेमाल करने वाले small model को चलाने के लिए chip को लगातार 48 घंटे autonomous work करके design किया
  • Nangate 45nm library और open-source EDA tools का उपयोग कर design/optimization/verification किया
  • 4mm² area में 100MHz timing पूरी की और simulation के आधार पर decoding throughput 8,700 tokens/sec से अधिक दर्ज किया
  • 1.46 मिलियन standard cells/0.277MB SRAM/dequantization fused INT4 MAC array शामिल हैं

Computational science research implementation

  • scientific literature को executable code से जोड़कर complex computational research processes implement/verify/analyze करता है
  • computational astrophysics में I–Love–Q universal relations reproduction task लगभग 2 घंटे में पूरा किया, जबकि इसकी तुलना में skilled researcher को आम तौर पर 1–2 हफ्ते लगते हैं
  • 20 से ज्यादा papers की review और cross-validation की, और पूरा numerical computation pipeline implement किया
  • 300 से ज्यादा equations of state evaluate किए और published formulas के बीच inconsistencies खोजीं
  • 3,000+ lines Python code और results exploration के लिए interactive HTML dashboard generate किया

Knowledge work और interactive research

  • public benchmarks के अलावा real users/agent workflows में बार-बार आने वाली problems पर आधारित internal evaluations में भी Kimi K3(max) ने consistent improvements दिखाए, ऐसा बताया गया

  • AI ASIC industry का 42-year analysis

    • 42 साल की AI ASIC industry का analysis करने वाली interactive website 120+ recursive self-improvements के साथ बनाई
    • 2,800+ web searches/fetches और 1,100+ terminal data collection किए
    • 87 quarterly reports और 99 original PDFs सहित 11,000+ pages material इस्तेमाल किया
    • evidence material को custom charts/animated diagrams/interactive visual narrative में बदला

  • Nuclear fusion industry research

    • timeline/funnel chart/range bar chart/Gantt chart और publication-quality slides सहित consulting-format industry report बनाई

  • GWTC-5 gravitational wave analysis

    • 20+ concurrent sub-agents का उपयोग कर 391 gravitational wave events analyze किए
    • 7 scientific visualizations/2 tables/10+ papers की literature synthesis generate की

  • Presentations

    • पूरी तरह editable heatmaps और annual reports जैसे infographic-format presentations बनाने में इस्तेमाल हुआ

Widgets और Dashboard

  • Kimi Work में बातचीत को ज्यादा visual और persistent बनाने वाले Widgets/Dashboard features जोड़े गए
  • Widgets chat के अंदर interactive components generate कर सकते हैं और local data या external plugins से connect होकर लगातार update हो सकते हैं
  • Dashboard important widgets को topic/project/goal-wise organized एक personalized screen में रखता है

Video editing

  • text/image/video को एक native multimodal model में process कर motion design/animation/video editing tasks करता है
  • अपनी architecture समझाने वाला 3Blue1Brown style motion graphics video बनाया, जिसमें technical concepts को animated diagrams और transitions से दिखाया गया
  • 56 source clips से अपना teaser video edit किया, जिसमें clip selection/action-continuity cuts/frame-level beat synchronization/audio processing/multiple revisions किए
  • इसी density का short video skilled editor को आम तौर पर 1–2 दिन, और beginner को 3–5 दिन लगने वाला काम बताया गया

मुख्य benchmark results

  • सभी Kimi K3 results reasoning effort max/temperature 1.0/top-p 1.0 पर measure किए गए, और benchmark के अनुसार KimiCode/Claude Code/Codex agent harness इस्तेमाल किए गए

  • Coding

    • DeepSWE 67.5 / Program Bench 77.8 / Terminal Bench 2.1 88.3
    • FrontierSWE 81.2 / SWE Marathon 42.0 / PostTrain Bench 36.6
    • MLS Bench 48.3 / internal Kimi Code Bench 2.0 72.9
    • Program Bench और SWE Marathon में table में शामिल models में सबसे highest score दर्ज किया
    • Terminal Bench 2.1 GPT 5.6 Sol के 88.8 के करीब रहा, और FrontierSWE Fable 5 के 86.6 से कम रहा

  • Agents और work automation

    • GDPval-AA v2 1,668 Elo / BrowseComp 91.2 / DeepSearchQA 95.0
    • Toolathlon-Verified 73.2 / MCP Atlas 84.2 / Automation Bench 30.8
    • Job Bench 52.9 / AA-Briefcase 1,548 Elo / APEX-Agents 37.6
    • Office QA Pro 63.3 / SpreadsheetBench 2 34.8 / internal DECK-Bench 73.5
    • BrowseComp/DeepSearchQA/Automation Bench/SpreadsheetBench 2 में table में शामिल models में सबसे highest score दर्ज किया
    • MCP Atlas ने 500 public tasks/100-turn limit में Gemini 3.1 Pro को judge model के रूप में इस्तेमाल किया
    • AutomationBench का evaluation 600 public tasks से किया गया
    • BrowseComp ने 300k tokens पर context compression लागू किया; अगर 1 मिलियन token context को बिना management इस्तेमाल किया जाए तो K3 score 90.4 है

  • Reasoning और knowledge

    • GPQA-Diamond 93.5 / HLE-Full 43.5 / tools के साथ HLE-Full 56.0
    • GPQA-Diamond GPT 5.6 Sol के 94.1 के करीब रहा, लेकिन HLE-Full Fable 5 के 53.3 और tool-use score 63.0 से कम रहा

  • Vision

    • MMMU-Pro 81.6, Python use करने पर 83.4
    • CharXiv RQ 84.8, Python use करने पर 91.3
    • MathVision 94.3, Python use करने पर 97.8
    • BabyVision with Python 85.7
    • ZeroBench pass@5 23.0, Python use करने पर 41.0
    • WorldVQA ForceAnswer 51.0 / OmniDocBench 91.1 / internal PerceptionBench 58.5
    • OmniDocBench में table में शामिल models में सबसे highest 91.1 दर्ज किया
    • ZeroBench को official settings के अनुसार 5 बार run किया गया, और बाकी multimodal scores में 3-run average इस्तेमाल किया गया
    • PerceptionBench unit visual perception capability पर focused internal benchmark है

Evaluation method और comparison limitations

  • हर benchmark में इस्तेमाल agent harness और score sources अलग हैं, इसलिए models के बीच direct comparison में condition differences हैं
  • DeepSWE में KimiCode harness score 67.5 है, और official leaderboard के mini-SWE-agent harness में 67.3 दर्ज किया गया
  • Terminal Bench 2.1 के other model scores कई harnesses में से highest result का उपयोग करते हैं
  • FrontierSWE score official script से raw score के आधार पर recalculated है और 16 जुलाई 2026 तक का है
  • PostTrain Bench में तीन runs का average इस्तेमाल किया गया; अगर Claude Fable 5 policy के कारण request refuse करता है तो Claude Opus 4.8 पर automatic fallback होता है
  • GDPval-AA v2 और AA-Briefcase scores Artificial Analysis results का उपयोग करते हैं

उपयोग और pricing

  • Kimi K3 Agents
    • iOS/Android/HarmonyOS के latest Kimi app या Kimi.com पर उपलब्ध
  • Kimi Work
    • Windows और Apple silicon Mac के लिए Kimi Work 3.1.0 या ऊपर support करता है
  • Kimi Code
    • terminal में चलाने के बाद /model command से Kimi K3 चुनें
  • Kimi API
    • model identifier kimi-k3 है
    • cache-hit input $0.30 प्रति 1 मिलियन tokens, cache-miss input $3, output $15 है
    • Mooncake की disaggregated inference architecture का उपयोग करता है, और official API के coding tasks में cache hit rate 90% से ज्यादा है
  • Kimi Enterprise
    • organizations के लिए data protection और member management features देता है, और personal account और organization account को पूरी तरह अलग रखता है

सीमाएं

  • Thought history sensitivity
    • K3 को previous thought history preserve करने के तरीके से train किया गया है
    • अगर agent harness past thought content पूरा दोबारा नहीं देता, या किसी दूसरे model वाले session से K3 पर switch किया जाता है, तो generation quality काफी unstable हो सकती है
    • compatible verified Kimi Code का उपयोग और session के बीच model switching से बचने की सलाह दी जाती है
  • ज्यादा proactive behavior
    • लंबे और कठिन tasks पर focus के साथ train होने के कारण, small problems या ambiguous user intent मिलने पर यह user की ओर से unexpected decisions ले सकता है
    • जिन applications में action scope limit करना जरूरी है, उन्हें system prompt या AGENTS.md में अधिक explicit constraints डालने चाहिए
  • कुल मिलाकर competitive model है, लेकिन user experience में Claude Fable 5 और GPT 5.6 Sol से स्पष्ट gap है

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 4 시간 전
Hacker News की राय

  • शुरुआती proof of concept के तौर पर यह चौंकाने वाला है कि Kimi K3 ने अपनी ही architecture के nano model को चलाने के लिए chip डिज़ाइन की
    48 घंटे की autonomous run में इसने open source EDA tools और Nangate 45nm library का इस्तेमाल करके design, optimization और verification तक पूरा किया, 4mm² पर 100MHz timing पूरी की, और simulation में प्रति सेकंड 8,700 से अधिक tokens की decoding throughput हासिल की
    इसमें 14.6 लाख standard cells, 0.277MB SRAM, और fused inverse quantization को support करने वाला INT4 MAC array भी शामिल है, जिससे model ने model के लिए chip बनाई जैसी long-horizon task capability दिखती है

  • अगर आप सीधे Moonshot में साइन अप करके इस्तेमाल करने की सोच रहे हैं, तो यह जानना ज़रूरी है कि API usage data भी training में इस्तेमाल हो सकता है
    इसमें साफ़ लिखा है कि customer content का उपयोग service देने, बनाए रखने, सुधारने और model training आदि के लिए किया जा सकता है, और इसे सीमित करने के लिए अलग enterprise contract या written agreement चाहिए
    https://platform.kimi.ai/docs/agreement/modeluse#4-content

    • मेरा मानना है कि OpenAI और Anthropic भी ऐसा ही करते होंगे, या शायद इससे भी ज़्यादा
      intellectual property लेकर उस पर safety checks लगाकर दोबारा बेचने वाले बिज़नेस में usage data से training होती है या नहीं, यह पूछना ही शायद भोला होना है; कम से कम Chinese कंपनियाँ इस बारे में ज़्यादा खुली हैं और community को कुछ वापस भी देती हैं
    • मैं बहुत ज़्यादा शक्की नहीं हूँ, लेकिन शायद यह मानकर चलना चाहिए कि चीन की सभी labs terms से अलग डेटा को training में इस्तेमाल करती हैं
    • OpenRouter, Moonshot provider को ZDR के रूप में वर्गीकृत करता है
      यह जानने की जिज्ञासा है कि क्या वाकई कोई zero data retention agreement है, या OpenRouter की classification में गलती है
    • मेरा मानना है कि OpenAI, Anthropic, Google, xAI समेत बाकी सभी कंपनियाँ भी डेटा का उपयोग करती हैं
      भले वे कहें कि नहीं करतीं, लेकिन इस खेल बदल देने वाली प्रतिस्पर्धा में क्या कोई सचमुच ऐसा फ़ायदा छोड़ देगा, इस पर संदेह है

  • विस्तृत usage और pricing इन दस्तावेज़ों में देखी जा सकती है
    https://platform.kimi.ai/docs/guide/kimi-k3-quickstart
    https://platform.kimi.ai/docs/pricing/chat-k3
    यह 10 लाख tokens context length को support करता है, और 10 लाख tokens पर input $3, output $15, cache $0.3 पड़ता है, जो Chinese open weight model के हिसाब से काफ़ी महँगा है
    यह लगभग Anthropic Sonnet series के बराबर कीमत पर है और 5.6 Terra के input $2.5 के भी क़रीब है, लेकिन असली लागत inference efficiency पर बहुत निर्भर करती है
    उदाहरण के लिए, अगर Sol की कीमत $30/10 लाख tokens हो और वह 10,000 reasoning tokens इस्तेमाल करे, जबकि Kimi K3 उसी काम में 50,000 tokens खर्च करे, तो cost efficiency में Sol बेहतर हो जाएगा

    • Chinese social media पर साझा किए गए आधिकारिक benchmarks के मुताबिक़, कुल मिलाकर यह Sol/Fable स्तर का लगता है और Opus 4.8 से काफ़ी समान रूप से आगे दिखता है
      https://mp.weixin.qq.com/s/V4xhEIy8xDXSMDPrPkmUAQ
      English blog भी जारी हुआ है: https://www.kimi.com/blog/kimi-k3
    • tokenizer का फ़र्क भी अहम है
      एक ही text को Anthropic tokenizer, OpenAI की तुलना में बहुत ज़्यादा tokens में encode कर सकता है
      मुझे लगता है Kimi का वास्तविक competitor GLM है, और GLM 5.2 की कीमत इसका एक-तिहाई भी नहीं है
    • फिर से जारी किए गए Fable के साथ app बनाते समय performance शानदार थी, लेकिन reasoning process पूरी तरह अपारदर्शी था
      इसके विपरीत Kimi, काफ़ी अर्थपूर्ण स्तर तक पूरा reasoning process दिखाता है, जिससे अजीब detours और दिशा बदलने को सीधे देखा जा सकता है, और ideas को कहीं ज़्यादा अच्छी तरह debug किया जा सकता है
      निजी niche topics में भी, जिन्हें दूसरे LLM हल नहीं कर पाए थे, यह काफ़ी आगे बढ़ता दिखा, इसलिए इसे और आज़माने का इरादा है
    • 2.8 trillion parameter model में, मुनाफ़ा अलग रख दें तब भी inference cost अपने आप में ऊँची है
      अगर यह open source के रूप में जारी होता है, तो मुझे लगता है कि कीमत 10 लाख tokens पर लगभग $10~12 तक आ सकती है
    • quickstart document असली benchmarks के लिए tech blog पर भेजता है, लेकिन उस blog में K3 नहीं है और आख़िरी मॉडल दो पीढ़ी पुराना K2.6 है, इसलिए कुछ छूटा हुआ लगता है

  • Kimi की अपनी evaluation के अनुसार, K3 की समग्र intelligence, Claude Fable 5 और GPT-5.6 Sol के बाद आती है, और weights, architecture, training व evaluation को शामिल करने वाली technical report जल्द जारी की जाएगी
    GDPval-AA v2 में 1687 points के साथ यह Claude Fable 5 Max और GPT-5.6 Sol Max के बाद है, और Claude Opus 4.8 Max के 1600 points से ऊपर है
    private long-horizon knowledge work benchmark AA-Briefcase में 1527 points के साथ यह Fable 5 Max के बाद और GPT-5.6 Sol Max के 1495 points से आगे है, इसलिए यह DeepSeek जैसा एक और पल हो सकता है

    • अगर यह उन दो models से पीछे है, तो इसे दूसरा नहीं बल्कि तीसरा कहना चाहिए
    • GDPval-AA v2 ऐसा benchmark भी है जिसमें Sonnet 5, Opus 4.8 Max से ऊपर आता है
      अब हर open weight model चौंकाने वाले scores ला रहा है, इसलिए केवल benchmarks से पूरी तस्वीर नहीं मिलती, और संदेह होना स्वाभाविक है कि evaluation data training data में leak हो गया हो या जानबूझकर शामिल किया गया हो
    • DeepSeek इसलिए चौंकाने वाला था क्योंकि उसकी लागत 10 गुना कम थी
      K3, Sol से लगभग 2 गुना सस्ता है, इसलिए यह token efficiency के फ़र्क और error margin के क़रीब है; मेरा मानना है कि यह open models के frontier labs तक पहुँचने वाली मौजूदा प्रवृत्ति का विस्तार है, DeepSeek की तरह ट्रेंड बदल देने वाली घटना नहीं
    • “frontier-grade performance” वाला वाक्य जिस पेज पर है, उसे ढूँढना मुश्किल है; यह किस स्रोत से आया, जानने की जिज्ञासा है

  • OpenRouter API से बनाया गया Pelican SVG परिणाम: https://tools.simonwillison.net/markdown-svg-renderer#url=ht...
    इस्तेमाल किया गया मॉडल https://openrouter.ai/moonshotai/kimi-k3 है, और 95 input tokens व 16,658 output tokens के लिए 25 सेंट खर्च हुए
    https://www.llm-prices.com/#it=95&ot=16658⁣=3&oc=15
    output में से 13,241 reasoning tokens थे, और अब तक Chinese models से render किए गए Pelican में यह सबसे महंगा था

    • ब्लॉग में यह भी और विस्तार से लिखा है कि Pelican benchmark अब भी किस तरह value दे सकता है: https://simonwillison.net/2026/Jul/16/kimi-k3/
    • अब अगर models SVG Pelican rendering के लिए optimize हो रहे हों, तो शायद यह भी हैरानी की बात नहीं होगी
    • यह जानने की उत्सुकता है कि “साइकिल चलाते हुए Pelican का SVG बनाओ” जैसी request कैसे 95 input tokens बन गई

  • Kimi K3, 2.8 ट्रिलियन parameters के साथ, सबसे बड़े open models की सूची में सबसे ऊपर है
    क्रम इस प्रकार है: Kimi K3 2.8T, DeepSeek-V4-Pro 1.6T (active 49B), Kimi K2.6 लगभग 1T (active 32B), GLM-5.2 754B (active 40B), DeepSeek-V3.2 685B, Mistral Large 3 675B
    यह इतना विशाल मॉडल है कि Moonshot को इसे चलाने के लिए संभवतः इस साल की शुरुआत में जुटाए गए बताए जाने वाले 500 मिलियन डॉलर की ज़रूरत पड़ेगी

    • यह वास्तव में open weights बनेगा या नहीं, यह अभी देखना बाकी है, और फिलहाल active parameters की संख्या भी ज्ञात नहीं है
    • Ling/Ring 1T-A50B और नया Inkling 975B-A41B भी इस सूची में शामिल होने लायक हैं

  • यह जानने की उत्सुकता है कि Google account इस्तेमाल किए बिना या फोन नंबर दिए बिना Kimi K3 को आज़माने का कोई तरीका है या नहीं

  • Kimi K3 ब्लॉग प्रकाशित हो गया है: https://www.kimi.com/blog/kimi-k3
    2.8 ट्रिलियन parameters वाला open model 10 लाख tokens context length और visual input का default support देता है, और technical report व weights 27 जुलाई तक जारी किए जाने वाले हैं
    लॉन्च के समय reasoning strength डिफ़ॉल्ट रूप से maximum है, और low व high modes बाद के update में जोड़े जाएंगे

    • benchmark numbers चौंकाने वाले हैं
      लगता है कि वह दौर खत्म हो गया जब China, America से 6 महीने पीछे था; बहुत कम resources में ऐसे नतीजे कैसे निकाले जा रहे हैं, यह सोचकर researchers कमाल के लगते हैं

  • पहली कोशिश में ही Kimi K3 ने उस bug के कारण को तुरंत ढूंढ निकाला, जिसे Fable 5 भी कई बार नहीं पकड़ पाया था
    अभी यह कम उपयोग वाला सिर्फ एक उदाहरण है, लेकिन अब तक यह बहुत promising लग रहा है

    • subscription limit काफ़ी सख्त है
      $100 subscription का quota खत्म होने की रफ़्तार Fable के लिए इस्तेमाल होने वाले Anthropic के $200 subscription जैसी लगती है, लेकिन मॉडल खुद इतना अच्छा है कि इसे Opus 4.8 से भी ऊपर आंका जा सकता है
    • यह जानने की उत्सुकता है कि Claude Code, VS Code के Codex extension, या Vim key bindings के साथ Codex CLI जैसी agentic tasks में Kimi का इस्तेमाल कैसे किया जाए
      यह भी जानना है कि OpenRouter में ऐसा कोई similar tool है या नहीं

  • अब जब English ब्लॉग प्रकाशित हो गया है, तो मौजूदा लिंक को https://www.kimi.com/blog/kimi-k3 से बदल देना बेहतर होगा