Reor - लोकल में मॉडल चलाने वाला AI नोट ऐप

• AI-आधारित डेस्कटॉप नोट ऐप। संबंधित आइडियाज़ को अपने-आप जोड़ता है, नोट्स के बारे में सवालों के जवाब देता है, और semantic search उपलब्ध कराता है
• सारा डेटा लोकल में स्टोर होता है, और Obsidian जैसे Markdown editor में नोट्स एडिट किए जा सकते हैं
• प्रोजेक्ट की परिकल्पना यह है कि AI thinking tools को मूल रूप से लोकल में मॉडल चलाना चाहिए
• Reor, Llama.cpp और Transformers.js पर आधारित है, जिससे लोकल में LLM और embedding models चलाए जा सकते हैं
• OpenAI-compatible API (जैसे Oobabooga) से कनेक्ट करने का भी समर्थन है

यह "self-organizing" कैसे करता है?

• आपके द्वारा लिखे गए सभी नोट्स को internal vector database में chunks में बाँटकर embed किया जाता है
• vector similarity के जरिए संबंधित नोट्स अपने-आप लिंक हो जाते हैं
• LLM-आधारित Q&A, नोट corpus पर RAG चलाता है
• हर चीज़ को semantic रूप से search किया जा सकता है

शुरू करना

• reorproject.org या releases से डाउनलोड किया जा सकता है, और Mac, Linux, Windows सभी को सपोर्ट करता है
• इसे सामान्य ऐप की तरह इंस्टॉल करें

लोकल मॉडल चलाना

• Reor, Llama.cpp लाइब्रेरी के साथ सीधे इंटरैक्ट करता है, इसलिए Ollama डाउनलोड करने की ज़रूरत नहीं है
• फिलहाल यह मॉडल्स को अपने-आप डाउनलोड नहीं करता, इसलिए यूज़र को मॉडल मैन्युअली डाउनलोड करने होंगे
• HuggingFace से सबसे लोकप्रिय मॉडल डाउनलोड किए जा सकते हैं, और 7B 4-bit मॉडल से शुरू करना बेहतर है
• Reor settings में "Add new local model" के तहत मॉडल जोड़ा जा सकता है
• Oobabooga, Ollama, या OpenAI जैसे OpenAI-compatible API से भी कनेक्ट किया जा सकता है

दूसरे ऐप्स से नोट्स इम्पोर्ट करना

• Reor, file system के भीतर एक single directory पर काम करता है
• पहली बार चलाने पर आपको एक directory चुननी होगी, और दूसरे ऐप्स से नोट्स/फाइलें इम्पोर्ट करने के लिए उस directory को मैन्युअली Markdown files से भरना होगा
• दूसरे ऐप्स के साथ integration जल्द आने वाला है

GN⁺ की राय

• Reor, लोकल में चलने वाला AI-आधारित नोट ऐप है, जो यूज़र की सोच को विस्तार देने और व्यवस्थित करने में मदद कर सकता है
• यूज़र के नोट्स को अपने-आप जोड़ने और सवालों के जवाब देने की इसकी क्षमता, information management और learning में काफी मददगार लगती है
• open source community के योगदान के साथ इसमें लगातार विकसित होने की संभावना है, इसलिए यह developers और researchers के लिए एक दिलचस्प प्रोजेक्ट हो सकता है

[GN⁺]

Hacker News राय

• अलग-अलग Markdown फ़ाइलों के रूप में सेव किए गए Obsidian नोट्स की उपयोगिता की अच्छी याद दिलाता है:
  • नोट्स को database में स्टोर करके Markdown को export format की तरह इस्तेमाल करने की बजाय, फ़ाइलों को सीधे manipulate कर पाना कई apps को एक ही फ़ाइलों पर उपयोगी काम करने देता है.
• इस बात के लिए सराहना कि AI जितना संभव हो उतना व्यक्तिगत और local पर चलना चाहिए:
  • इस दृष्टिकोण और लगातार प्रयासों के लिए आभार व्यक्त किया गया.
• knowledge management tools के बारे में व्यक्तिगत अनुभव साझा किया गया:
  • Hermes model का उपयोग करने पर "related notes" फ़ीचर अक्सर बेमतलब के connections देता है, इसलिए इसकी value कम है.
  • Q&A mode नोट्स को query करने और overview देने में उपयोगी है, लेकिन specific सवालों में मददगार नहीं होता या गलत जवाब देता है.
• privacy और interoperability को महत्व देने वाले knowledge management tool के विकास के लिए मज़बूत समर्थन:
  • उपयोगकर्ताओं को ज़रूरत के मुताबिक अपने नोट्स आसानी से export करके नई service में migrate कर सकना चाहिए.
  • Obsidian की तरह पूरी तरह local solution को प्राथमिकता दी गई, जहाँ उपयोगकर्ता अपना खुद का model ला सकें या plugins को combine कर सकें.
• Obsidian के Smart Connections v2 के बारे में जानकारी साझा की गई:
  • यह local embeddings को support करता है और semantic similarity के आधार पर related notes दिखाता है.
  • multilingual repositories में यह अभी पूरी तरह सही नहीं है, लेकिन इसमें सुधार हो रहा है और संभव है कि जल्द ही multilingual models को support करे.
• Reor के लिए सुझाव:
  • कई स्वतंत्र "vaults" बनाए जाएँ.
  • related notes में links जोड़कर AI connections को graph के रूप में दिखाया जाए.
  • UI को chat window तक सीमित किया जाए.
  • दूसरे formats (मुख्य रूप से PDF) पढ़ने की क्षमता हो.
  • browser history/bookmarks के साथ integration हो (Markdown में manual import script उपलब्ध कराते हुए).
• AI का उपयोग करके knowledge management के भविष्य पर संशयपूर्ण नज़रिया:
  • अगर AI पर ज़रूरत से ज़्यादा निर्भर होकर उससे सारे organization tasks कराए जाएँ, तो सोचने की क्षमता कम हो सकती है.
  • इन tools का प्रसार अभी शुरुआती चरण में है इसलिए data नहीं है, लेकिन learning, thinking और "knowledge management" को और अधिक passive बनाना नतीजों को बेहतर नहीं करता.
• Obsidian और graph-based connections के प्रति पसंद व्यक्त की गई:
  • Obsidian note structure और personal knowledge management के लिए "second brain" concept के बीच समानता महसूस की गई.
  • intelligent references के लिए note search को implement करना स्वाभाविक अगला कदम लगता है.
• प्रोजेक्ट में रुचि और उसके focus के प्रति पसंद:
  • यह जानने की जिज्ञासा कि क्या Cozodb या vectors को graph/triples के साथ combine करने वाले किसी अन्य database की जाँच की गई है.
  • शायद neuro-symbolic approach सबसे अच्छा तरीका हो सकता है.
• Obsidian के लिए एक समान प्रोजेक्ट पर व्यक्तिगत अनुभव साझा किया गया:
  • पहले से कहीं अधिक विकसित चीज़ देखकर उत्साह हुआ.
  • Obsidian का उपयोग करके एक बड़े writing project पर काम चल रहा है, और अंतिम लक्ष्य है अपनी लिखी हुई सामग्री के साथ बातचीत करना, ideas को refine करना, और content exploration के नए तरीकों के साथ प्रयोग करना.
  • यह निश्चित नहीं कि local LLMs अभी meaningful/reliable results देने के लिए पर्याप्त शक्तिशाली हैं, लेकिन इस तकनीक के भविष्य को लेकर बहुत उत्साह है.
• note-taking के लिए बेहतर तरीकों की खोज का अनुभव साझा किया गया:
  • नया tool डाउनलोड करके test किया जा रहा है, और यह बहुत promising लगता है.
  • पूरी तरह अलग contexts के नोट्स को अलग-अलग रखने की क्षमता महत्वपूर्ण है.
  • ऐसा नहीं होना चाहिए कि समान लगने वाले लेकिन अलग context वाले LLM को ले आए.
  • लगा था कि "new directory" इससे यह काम कर देगा, लेकिन ऐसा नहीं लगता.
  • यह जानना है कि database switcher को implement करने की कोई योजना है या नहीं, और वर्तमान location को कैसे बदला जाए इसकी जानकारी चाहिए.
  • यह देखकर खुशी हुई कि यह पहले से ही PR में है.