35 पॉइंट द्वारा xguru 2025-01-15 | 3 टिप्पणियां | WhatsApp पर शेयर करें
  • RAG (retrieval-augmented generation) आधारित QA के लिए user-friendly UI
  • उन सामान्य उपयोगकर्ताओं के लिए डिज़ाइन किया गया है जो दस्तावेज़ों पर QA करना चाहते हैं, और उन डेवलपर्स के लिए भी जो अपना खुद का RAG pipeline बनाना चाहते हैं
  • विभिन्न LLMs का समर्थन: OpenAI, AzureOpenAI, Cohere जैसे LLM API providers, तथा local LLMs (ollama, llama-cpp-python) का समर्थन
  • आसान इंस्टॉलेशन: जल्दी शुरू करने के लिए script उपलब्ध
  • Gradio से बना UI, जिसमें अपना RAG pipeline टेस्ट किया जा सकता है (themes उपलब्ध)

मुख्य विशेषताएँ

  • दस्तावेज़ QA web UI होस्टिंग:
    • multi-user login समर्थन
    • दस्तावेज़ों को private/public collections में व्यवस्थित करना
    • chat history साझा करने और सहयोग की सुविधा
  • LLM और embedding model प्रबंधन:
    • local LLMs तथा OpenAI, Azure, Ollama, Groq जैसे लोकप्रिय API providers का समर्थन
  • hybrid RAG pipeline:
    • डिफ़ॉल्ट रूप से hybrid (full-text और vector) retriever तथा reranking को मिलाकर बेहतरीन retrieval quality सुनिश्चित करता है
  • multimodal QA समर्थन:
    • चार्ट और तालिकाओं वाले कई दस्तावेज़ों पर प्रश्नोत्तर किया जा सकता है
    • UI में multimodal document parsing option चुना जा सकता है
  • उन्नत citation और document preview:
    • सटीकता सुनिश्चित करने के लिए विस्तृत citation जानकारी प्रदान करता है
    • browser के भीतर PDF viewer में highlights के साथ citation और relevance score देखे जा सकते हैं
    • कम प्रासंगिक दस्तावेज़ लौटने पर warning दिखाता है
  • जटिल reasoning तरीकों का समर्थन:
    • question decomposition के ज़रिए जटिल/बहु-चरणीय प्रश्नों के उत्तर दिए जा सकते हैं
    • ReAct, ReWOO और अन्य agents का उपयोग करने वाली agent-based reasoning का समर्थन
  • configuration UI को अनुकूलित किया जा सकता है:
    • retrieval और generation process के मुख्य तत्वों को सीधे UI से समायोजित किया जा सकता है (जैसे prompt settings)
  • विस्तार योग्य:
    • Gradio पर बना होने के कारण UI elements को स्वतंत्र रूप से customize किया जा सकता है
    • भविष्य में विभिन्न document indexing और retrieval strategies का समर्थन होगा. उदाहरण के रूप में GraphRAG indexing pipeline प्रदान की गई है

3 टिप्पणियां

 
riskatcher 2025-01-16

QA RAG framework बहुत हैं, लेकिन इसमें फ़ायदा क्या है?

 
savvykang 2025-01-15

सूचना पुनर्प्राप्ति क्षेत्र में और विवरण के भीतर, QA का मतलब quality assurance नहीं बल्कि question answering है।

 
sftblw 2025-01-15

नाम काफ़ी मज़ेदार है। सिर्फ़ नाम देखकर अंदाज़ा लगाऊँ तो लगता है कि यह जवाब(कोताए) + Doraemon (मोन) से मिलकर कोताएमोन बना होगा।