OmniRoute — बिखरे हुए मुफ्त/लो-कॉस्ट AI tiers को एक में जोड़ने वाला gateway

xguru · 2026-07-23T09:31:01+09:00

एक लोकल endpoint(localhost:20128/v1) से 271 providers/500+ models को जोड़ता है और Claude Code/Codex/Cursor/Cline/Copilot समेत 26 coding tools को एक ही config से इस्तेमाल करने देता है 90+ free tiers/40+ permanent free accounts को एकीकृत कर हर महीने लगभग 1.4 अरब free tokens को एक ही budget की तरह इस्तेमाल किया जा सकता है automatic fallback से tiers को एक जैसा जोड़ता है — पहले से paid subscriptions को पहले खर्च करता है (नहीं इस्तेमाल किया तो नुकसान), और खत्म होने पर usage-based API → low-cost → free क्रम में अपने-आप switch होकर limit पर अटके बिना चलता रहता है यह price ascending के बजाय "पहले से सुरक्षित resources को पहले जलाने" के क्रम में काम करता है; शुद्ध lowest-cost प्राथमिकता के लिए cost-optimized/auto/cheap strategy अलग से दी जा सकती है RTK + Caveman stack compression से प्रति request tokens में 15~95% (tool-heavy sessions में औसतन लगभग 89%) की बचत, जबकि code/URL/JSON byte स्तर पर मूल रूप में सुरक्षित रहते हैं Quota-Share से एक subscription को टीम की कई keys में बाँटा जा सकता है; खाली हिस्से work-conserving तरीके से उधार दिए जाते हैं, इसलिए एक व्यक्ति की अचानक बढ़ी usage पूरे सिस्टम को lock नहीं करती 18 routing strategies और auto no-config smart routing (12-factor real-time scoring), fusion (panel+judge), pipeline (step chaining) आदि का समर्थन 3-layer self-healing (provider circuit breaker / connection cooldown / model lockout) से failure type के अनुसार प्रतिक्रिया, downtime न्यूनतम MCP (104 tools)/A2A(JSON-RPC 2.0) protocol के जरिए agents gateway को स्वायत्त रूप से नियंत्रित कर सकते हैं local-first architecture: keys AES-256-GCM encryption से सुरक्षित, zero telemetry, account/signup की जरूरत नहीं, prompt injection guard built-in Web/Desktop(Electron)/Android(Termux)/PWA multi-platform, 43 locales का समर्थन इंस्टॉल: npm install -g omniroute MIT license

एक लोकल endpoint(localhost:20128/v1) से 271 providers/500+ models को जोड़ता है और Claude Code/Codex/Cursor/Cline/Copilot समेत 26 coding tools को एक ही config से इस्तेमाल करने देता है
90+ free tiers/40+ permanent free accounts को एकीकृत कर हर महीने लगभग 1.4 अरब free tokens को एक ही budget की तरह इस्तेमाल किया जा सकता है
automatic fallback से tiers को एक जैसा जोड़ता है — पहले से paid subscriptions को पहले खर्च करता है (नहीं इस्तेमाल किया तो नुकसान), और खत्म होने पर usage-based API → low-cost → free क्रम में अपने-आप switch होकर limit पर अटके बिना चलता रहता है
- यह price ascending के बजाय "पहले से सुरक्षित resources को पहले जलाने" के क्रम में काम करता है; शुद्ध lowest-cost प्राथमिकता के लिए cost-optimized/auto/cheap strategy अलग से दी जा सकती है
RTK + Caveman stack compression से प्रति request tokens में 15~95% (tool-heavy sessions में औसतन लगभग 89%) की बचत, जबकि code/URL/JSON byte स्तर पर मूल रूप में सुरक्षित रहते हैं
Quota-Share से एक subscription को टीम की कई keys में बाँटा जा सकता है; खाली हिस्से work-conserving तरीके से उधार दिए जाते हैं, इसलिए एक व्यक्ति की अचानक बढ़ी usage पूरे सिस्टम को lock नहीं करती
18 routing strategies और auto no-config smart routing (12-factor real-time scoring), fusion (panel+judge), pipeline (step chaining) आदि का समर्थन
3-layer self-healing (provider circuit breaker / connection cooldown / model lockout) से failure type के अनुसार प्रतिक्रिया, downtime न्यूनतम
MCP (104 tools)/A2A(JSON-RPC 2.0) protocol के जरिए agents gateway को स्वायत्त रूप से नियंत्रित कर सकते हैं
local-first architecture: keys AES-256-GCM encryption से सुरक्षित, zero telemetry, account/signup की जरूरत नहीं, prompt injection guard built-in
Web/Desktop(Electron)/Android(Termux)/PWA multi-platform, 43 locales का समर्थन
इंस्टॉल: npm install -g omniroute
MIT license

OmniRoute — बिखरे हुए मुफ्त/लो-कॉस्ट AI tiers को एक में जोड़ने वाला gateway

संबंधित पढ़ाई

2 टिप्पणियां