HN में प्रस्तुत: FastGraphRAG – पारंपरिक PageRank का उपयोग करने वाली उन्नत RAG तकनीक

सरल और promptable Fast GraphRAG framework

• व्याख्यायोग्य और debug करने योग्य ज्ञान: ग्राफ ऐसा knowledge view प्रदान करते हैं जिसे इंसान एक्सप्लोर कर सकते हैं, और जिसे query, visualize तथा update किया जा सकता है
• तेज़, सस्ता और efficient: बड़े पैमाने पर चलाने के लिए डिज़ाइन किया गया है, इसलिए resource और cost की ज़रूरतें कम हैं
• डायनामिक डेटा: domain और ontology आवश्यकताओं के अनुसार ग्राफ को अपने आप generate और refine करता है
• क्रमिक अपडेट: डेटा के विकसित होने के साथ real-time updates को support करता है
• बुद्धिमान exploration: accuracy और reliability बढ़ाने के लिए PageRank-आधारित graph exploration का उपयोग करता है
• async और type support: पूर्ण async और type support के साथ मज़बूत और पूर्वानुमेय workflows प्रदान करता है

इंस्टॉलेशन

• PyPi से इंस्टॉल करें (अनुशंसित)

  pip install fast-graphrag
  

• source से इंस्टॉल करें

  # पहले इस repository को clone करें
  cd fast_graphrag
  poetry install
  

क्विक स्टार्ट

• environment में OpenAI API key सेट करें

  export OPENAI_API_KEY="sk-..."
  

• Charles Dickens की A Christmas Carol डाउनलोड करें

  curl https://raw.githubusercontent.com/circlemind-ai/fast-graphrag/… > ./book.txt
  

• Python code उदाहरण

  from fast_graphrag import GraphRAG
  
  DOMAIN = "Analyze this story and identify the characters. Focus on how they interact with each other, the locations they explore, and their relationships."
  EXAMPLE_QUERIES = [
      "What is the significance of Christmas Eve in A Christmas Carol?",
      "How does the setting of Victorian London contribute to the story's themes?",
      "Describe the chain of events that leads to Scrooge's transformation.",
      "How does Dickens use the different spirits (Past, Present, and Future) to guide Scrooge?",
      "Why does Dickens choose to divide the story into \"staves\" rather than chapters?"
  ]
  ENTITY_TYPES = ["Character", "Animal", "Place", "Object", "Activity", "Event"]
  
  grag = GraphRAG(
      working_dir="./book_example",
      domain=DOMAIN,
      example_queries="\n".join(EXAMPLE_QUERIES),
      entity_types=ENTITY_TYPES
  )
  
  with open("./book.txt") as f:
      grag.insert(f.read())
      print(grag.query("Who is Scrooge?").response)
  

• उसी working directory में fast-graphrag को दोबारा initialize करने पर यह अपने आप सारा knowledge बनाए रखता है

उदाहरण

• लाइब्रेरी के सामान्य उपयोग मामलों के tutorial देखने के लिए examples फ़ोल्डर देखें
  • custom_llm.py: विभिन्न OpenAI API-संगत language models और embedders के साथ fast-graphrag को configure करने का एक सरल उदाहरण

योगदान

• छोटे-बड़े सभी योगदानों का स्वागत है। योगदान open source समुदाय को सीखने, प्रेरित होने और निर्माण करने की एक शानदार जगह बनाते हैं
• कैसे शुरू करें, यह जानने के लिए contribution guide देखें
• अगर समझ न आए कि कहाँ से शुरू करें, तो Discord में शामिल होकर सवाल पूछ सकते हैं

दर्शन

• हमारा मिशन दुनिया में सफल GenAI applications की संख्या बढ़ाना है
• इसके लिए हम memory और data tools बना रहे हैं, ताकि LLM apps agent workflow को सेट और maintain करने की जटिलता के बिना अत्यधिक specialized retrieval pipelines का उपयोग कर सकें

ओपन सोर्स या managed service

• यह repository MIT license के तहत है। अधिक जानकारी के लिए LICENSE.txt देखें
• Fast GraphRAG के साथ शुरुआत करने का सबसे तेज़ और विश्वसनीय तरीका managed service का उपयोग करना है
• हर महीने शुरुआती 100 requests मुफ़्त हैं, उसके बाद usage के आधार पर शुल्क लिया जाता है

[GN⁺]

Hacker News टिप्पणी

• BM25 और LLM को साथ में इस्तेमाल करने पर बहुत उच्च प्रासंगिकता वाले परिणाम मिल सकते हैं

  • जब query का आकार embedding store के आकार के समान होता है, तब embedding अच्छी तरह काम करती है
  • LLM का उपयोग करके एक hypothetical answer बनाकर उसे embedding query में इस्तेमाल करना प्रभावी है
  • knowledge decomposition और extraction चरण में metaprompter का उपयोग करके domain/entity types अपने-आप बनाए जाते हैं
  • LLM ज्ञान को उपयुक्त स्तर पर विभाजित करने में कमजोर होते हैं
  • mermaid.js mindmap का उपयोग करके input को hierarchical तरीके से बाँटा जाता है और उपयुक्त root खोजा जाता है
  • generated questions को text के रूप में index और embed किया जाता है
  • BM25 का उपयोग करके user query को सीधे match किया जा सकता है, और hybrid approach बेहतर परिणाम देती है
  • यदि query time पर LLM का उपयोग न किया जाए, तो embedding similarity को cost function की तरह इस्तेमाल करके hierarchical traversal संभव है

• PageRank और Triangle Centrality ऐसे दिलचस्प centrality metrics हैं जिन्हें graph पर लागू किया जा सकता है

  • Triangle Centrality node के आसपास के triangles को गिनकर centrality निर्धारित करता है
  • शोध के अनुसार, sparse graph में TC, PR से धीमा है, लेकिन graph बड़ा होने पर यह अधिक efficient हो जाता है

• पारंपरिक information retrieval, RAG के लिए उपयुक्त लगता है

  • vector search unstructured data के लिए उपयोगी है, लेकिन structured data के लिए कम प्रभावी है
  • vector search के लिए structured data को unstructured data में बदलना अक्षम हो सकता है
  • LLM से query सीखवाना या उसे मौजूदा search/query API के साथ interface कराना उपयोगी हो सकता है
  • बड़े context size का उपयोग करके कई queries से बहुत सारे परिणाम लाना, vector search की तुलना में तेज़ और सस्ता है

• एक AI startup बड़े पैमाने पर document analysis के लिए GraphRag system का उपयोग करना चाहता है

  • हर महीने लगभग 10% documents में बदलाव होने की उम्मीद है
  • S3 का उपयोग करके data इकट्ठा किया जा सकता है, लेकिन cost और processing time को समझना होगा

• इस बात पर सवाल कि PageRank के लिए OpenAI API key क्यों चाहिए

  • OpenAI के outputs का उपयोग करके competing model विकसित नहीं किया जा सकता, ऐसी पाबंदी है
  • मनुष्यों की आर्थिक गिरावट को लेकर चिंता

• graph database के बिना graph को store और query करने के तरीकों पर सवाल

  • sciphi triplex model से extraction की कोशिश में असंगत परिणाम मिले

• domain-specific text के knowledge graph निर्माण के लिए आवश्यक text की मात्रा पर सवाल

  • Aider, code repository के call graph पर PageRank लागू करके relevant context ढूँढता है

• domain और example queries knowledge graph बनाने में कैसे मदद करते हैं, इस पर सवाल

• pricing policy को लेकर भ्रम

  • GitHub page पर लिखा है कि शुरुआती 100 requests मुफ़्त हैं, लेकिन landing page पर मुफ़्त उपयोग के लिए self-hosting की सिफारिश की गई है

• "Scrooge कौन है?" इस सवाल के जवाब के अन्य approaches से बेहतर होने पर सवाल

  • यह cost कम करने का तरीका है या बेहतर जवाब पाने का, इस पर संदेह