Lanarky - LLM को production में deploy करने के लिए open source framework

 (github.com/ajndkr)
7 पॉइंट द्वारा xguru 2023-06-18 | अभी कोई टिप्पणी नहीं है. | WhatsApp पर शेयर करें
  • FastAPI-आधारित
  • मल्टी-मोड token streaming
  • तेज prototyping के लिए सरल gradio chatbot
  • LangChain application support
  • कई LLM caching strategies
  • जल्द समर्थन: LlamaIndex, Guidance, Rebuff आदि का support और SQL DB integration

संबंधित पढ़ाई

अभी कोई टिप्पणी नहीं है.

अभी कोई टिप्पणी नहीं है.