- RAG (retrieval-augmented generation) आधारित QA के लिए user-friendly UI
- उन सामान्य उपयोगकर्ताओं के लिए डिज़ाइन किया गया है जो दस्तावेज़ों पर QA करना चाहते हैं, और उन डेवलपर्स के लिए भी जो अपना खुद का RAG pipeline बनाना चाहते हैं
- विभिन्न LLMs का समर्थन: OpenAI, AzureOpenAI, Cohere जैसे LLM API providers, तथा local LLMs (
ollama, llama-cpp-python) का समर्थन
- आसान इंस्टॉलेशन: जल्दी शुरू करने के लिए script उपलब्ध
- Gradio से बना UI, जिसमें अपना RAG pipeline टेस्ट किया जा सकता है (themes उपलब्ध)
मुख्य विशेषताएँ
- दस्तावेज़ QA web UI होस्टिंग:
- multi-user login समर्थन
- दस्तावेज़ों को private/public collections में व्यवस्थित करना
- chat history साझा करने और सहयोग की सुविधा
- LLM और embedding model प्रबंधन:
- local LLMs तथा OpenAI, Azure, Ollama, Groq जैसे लोकप्रिय API providers का समर्थन
- hybrid RAG pipeline:
- डिफ़ॉल्ट रूप से hybrid (full-text और vector) retriever तथा reranking को मिलाकर बेहतरीन retrieval quality सुनिश्चित करता है
- multimodal QA समर्थन:
- चार्ट और तालिकाओं वाले कई दस्तावेज़ों पर प्रश्नोत्तर किया जा सकता है
- UI में multimodal document parsing option चुना जा सकता है
- उन्नत citation और document preview:
- सटीकता सुनिश्चित करने के लिए विस्तृत citation जानकारी प्रदान करता है
- browser के भीतर PDF viewer में highlights के साथ citation और relevance score देखे जा सकते हैं
- कम प्रासंगिक दस्तावेज़ लौटने पर warning दिखाता है
- जटिल reasoning तरीकों का समर्थन:
- question decomposition के ज़रिए जटिल/बहु-चरणीय प्रश्नों के उत्तर दिए जा सकते हैं
ReAct, ReWOO और अन्य agents का उपयोग करने वाली agent-based reasoning का समर्थन
- configuration UI को अनुकूलित किया जा सकता है:
- retrieval और generation process के मुख्य तत्वों को सीधे UI से समायोजित किया जा सकता है (जैसे prompt settings)
- विस्तार योग्य:
- Gradio पर बना होने के कारण UI elements को स्वतंत्र रूप से customize किया जा सकता है
- भविष्य में विभिन्न document indexing और retrieval strategies का समर्थन होगा. उदाहरण के रूप में
GraphRAG indexing pipeline प्रदान की गई है
3 टिप्पणियां
QA RAG framework बहुत हैं, लेकिन इसमें फ़ायदा क्या है?
सूचना पुनर्प्राप्ति क्षेत्र में और विवरण के भीतर, QA का मतलब quality assurance नहीं बल्कि question answering है।
नाम काफ़ी मज़ेदार है। सिर्फ़ नाम देखकर अंदाज़ा लगाऊँ तो लगता है कि यह जवाब(कोताए) + Doraemon (मोन) से मिलकर कोताएमोन बना होगा।