5 पॉइंट द्वारा xguru 4 시간 전 | 2 टिप्पणियां | WhatsApp पर शेयर करें
  • Anthropic, OpenAI, Gemini को एक single endpoint में जोड़ने वाला drop-in proxy। हर request के लिए सबसे उपयुक्त model अपने-आप चुनता है
  • सभी prompts को 50ms के भीतर सही model पर route करता है, और सिर्फ endpoint बदलकर cost में 40-70% कमी संभव
  • prompt का आकलन vibes के बजाय on-box embedder आधारित cluster scorer से करता है; Avengers-Pro से निकली पद्धति के जरिए हर turn पर routing decision लेता है
  • Anthropic Messages, OpenAI Chat Completions, Gemini native APIs सभी को support करता है, और streaming/tools/vision support भी उपलब्ध
  • DeepSeek, Kimi, GLM, Qwen, Llama, Mistral जैसे OSS models को OpenRouter (या OpenAI-compatible endpoint) के जरिए इस्तेमाल किया जा सकता है
  • BYOK default है और provider keys स्थानीय रूप से encrypt करके store की जाती हैं
  • OTLP traces built-in हैं; Weave dashboard/Honeycomb/Datadog/Grafana आदि के जरिए observability मिलती है
  • बिना install किए npx @workweave/router से run करने के बाद Claude Code, Codex, opencode, Cursor से तुरंत connect किया जा सकता है, और on/off/status switching support है
    • Claude Code को make install-cc से connect करें। /router-off, /router-on, /router-status slash commands उपलब्ध हैं
    • Codex: npx @workweave/router --codex चलाने पर ~/.codex/config.toml को patch करता है
    • opencode: npx @workweave/router --opencode चलाने पर bundled @ai-sdk/anthropic provider को router /v1 endpoint पर set करता है; Anthropic Messages API native support के कारण बिना modification के काम करता है
    • Cursor: अभी शुरुआती beta में है, इसलिए performance unstable है; Settings → Models → Override OpenAI Base URL में http://localhost:8080/v1 दर्ज करें
  • Elastic License 2.0

2 टिप्पणियां

 
wizmasia 3 시간 전

wldnjs वाला हिस्सा दिलचस्प है।

 
xguru 3 시간 전

मैंने इसे ठीक कर दिया है।