BricksLLM - LLM के लिए AI Gateway

 (github.com/bricks-cloud)
2 पॉइंट द्वारा xguru 2023-12-19 | अभी कोई टिप्पणी नहीं है. | WhatsApp पर शेयर करें
  • Go में लिखा गया cloud-native AI gateway
  • OpenAI के लिए proxy के रूप में काम करता है
  • Rate Limit, Cost Limit और TTL वाले API key बनाकर, OpenAI जो विस्तृत access control नहीं देता, वह उपलब्ध कराया जा सकता है
  • लक्ष्य है LLama2, Claude, PaLM2 जैसे विभिन्न LLM को support करना और LLM operations को सरल बनाना

संबंधित पढ़ाई

अभी कोई टिप्पणी नहीं है.

अभी कोई टिप्पणी नहीं है.