RecurseChat - रोज़मर्रा के उपयोग के लिए लोकल AI संवाद ऐप

 (recurse.chat)
11 पॉइंट द्वारा GN⁺ 2024-02-29 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • लोकल-फर्स्ट, ऑफलाइन संभव: बिना जटिल सेटअप के ऑफलाइन AI से बातचीत की जा सकती है.
  • प्रोफेशनल सर्च: हज़ारों संदेशों में तेज़ खोज सुविधा प्रदान करता है.
  • ChatGPT हिस्ट्री इम्पोर्ट: लोकल AI के साथ बातचीत को आगे जारी रखा जा सकता है.
  • मल्टी-मॉडल बातचीत: एक ही चैट सत्र में कई मॉडलों से बात की जा सकती है.
  • मल्टीमोडल इनपुट: LLaVA मॉडल का उपयोग करके इमेज के साथ बातचीत की जा सकती है.
  • सुरक्षा और गोपनीयता: macOS app sandbox द्वारा संरक्षित, इसलिए निजी रूप से बातचीत संभव है.
  • कस्टमाइज़ करने योग्य रूप-रंग और AI कैरेक्टर: अपने GGUF मॉडल का उपयोग करके AI की पर्सनैलिटी और रूप-रंग को कस्टमाइज़ किया जा सकता है.

सरल लेकिन शक्तिशाली फीचर्स

  • ऑफलाइन AI से बातचीत: तकनीकी ज्ञान के बिना लोकल LLM से बात की जा सकती है.
  • इमेज के साथ मल्टीमोडल चैट: इमेज सहित विभिन्न प्रकार की बातचीत का समर्थन.
  • ChatGPT हिस्ट्री इम्पोर्ट और जारी रखना: पिछली बातचीत को लोकल AI के साथ जारी रखा जा सकता है.
  • तेज़ प्रोफेशनल सर्च: टेक्स्ट सर्च के माध्यम से मनचाही बातचीत आसानी से खोजी जा सकती है.
  • कोर कस्टमाइज़ेशन: AI की पर्सनैलिटी और रूप-रंग को स्वतंत्र रूप से बदला जा सकता है.

GN⁺ की राय

  • RecurseChat एक ऐसा ऐप है जो उपयोगकर्ता की गोपनीयता को प्राथमिकता देता है और ऑफलाइन भी AI के साथ बातचीत संभव बनाता है. यह उन उपयोगकर्ताओं के लिए बहुत उपयोगी हो सकता है जिनका इंटरनेट कनेक्शन अस्थिर है या जिनके लिए गोपनीयता बहुत महत्वपूर्ण है.
  • macOS app sandbox के माध्यम से मिलने वाली सुरक्षा उपयोगकर्ताओं को अतिरिक्त भरोसा दे सकती है, लेकिन यह स्पष्ट नहीं है कि यही स्तर की सुविधा अन्य operating systems पर भी उपलब्ध होगी या नहीं.
  • इमेज के साथ मल्टीमोडल बातचीत की सुविधा उपयोगकर्ताओं को अधिक समृद्ध संवाद अनुभव दे सकती है, लेकिन इसके साथ इमेज रिकग्निशन की सटीकता से जुड़ी तकनीकी चुनौतियाँ भी हो सकती हैं.
  • यह कि उपयोगकर्ता अपने GGUF मॉडल का उपयोग करके AI की पर्सनैलिटी और रूप-रंग को कस्टमाइज़ कर सकते हैं, व्यक्तिगत अनुभव देने के लिहाज़ से एक बड़ा लाभ हो सकता है. हालांकि, इन उन्नत फीचर्स का सही उपयोग करने के लिए कुछ स्तर की तकनीकी समझ की आवश्यकता हो सकती है.
  • उपयोगकर्ता के तकनीकी स्तर और गोपनीयता संबंधी आवश्यकताओं को ध्यान में रखना चाहिए, और विभिन्न उपयोगकर्ता परिवेशों में compatibility तथा accessibility सुनिश्चित करना महत्वपूर्ण है.

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-02-29

Hacker News की राय

  • @ggerganov के llama.cpp पर शानदार काम की वजह से यह संभव हो पाया है। आदर्श local AI app में आप कौन-सी सुविधाएँ चाहते हैं, यह सुनना अच्छा लगेगा।

  • Full Text Search. हज़ारों संदेशों में बेहद तेज़ search।

    • natural language processing ने पूरी तरह विकसित होकर Ctrl+F को फिर से ईजाद कर दिया।
    • हज़ारों संदेशों को तेज़ी से खोजने की क्षमता पर राय: 90s की search functionality की आधुनिक पुनर्व्याख्या।
      • full-text search feature के बारे में यह टिप्पणी है कि natural language processing तकनीक के विकास ने मौजूदा text search functionality को काफ़ी बेहतर बना दिया है।

  • अगर local documents, bookmarks, browser history आदि से जवाब ढूँढकर देने वाली सुविधा हो, तो मैं इसके लिए खुशी-खुशी भुगतान करूँगा।

  • बढ़िया है! कुछ बातें:

    • ChatGPT का UI इसलिए उपयोगी है क्योंकि बातचीत के किसी भी हिस्से को बदला जा सकता है, उस बिंदु से बातचीत को फिर से generate किया जा सकता है, और उसके बाद की बातचीत हट जाती है।
    • feedback button Chrome पर focus बदलने के अलावा कुछ भी नहीं करता।
    • कहा गया है कि LLaVA model image generation नहीं कर सकता क्योंकि वह text-based AI model है।

  • अच्छा है, लेकिन ChatbotUI+Ollama की जगह इसे इस्तेमाल करने की वजह समझ नहीं आती।

    • MacOS native app होने के फ़ायदे और तेज़ import तथा search features के अलावा इसे अलग साबित करने वाली चीज़ें ढूँढना मुश्किल है।
    • ChatbotUI के पास cross-platform, customizable, privacy, debuggable जैसी खूबियाँ हैं।

  • कुछ सवाल:

    • image generation के लिए आप क्या इस्तेमाल कर रहे हैं? क्या यह local पर भी संभव है (जैसे stable diffusion)? क्या integrated prompt generation है?
    • आपने कहा कि ChatGPT history import की जा सकती है, तो क्या दूसरे documents भी import किए जा सकते हैं?
    • क्या इसमें कुछ "agent" style features हैं? क्या यह web search कर सकता है? क्या दूसरे API इस्तेमाल कर सकता है? क्या यह खुद prompt generate कर सकता है?
    • क्या कोई plugin framework है? आपने "customizable" कहा, लेकिन इसका मतलब लगभग कुछ भी हो सकता है।
    • license क्या है? आप यह कैसे सुनिश्चित करते हैं कि user का उपयोग private रहे? हम सब जानते हैं कि बहुत-से "local" apps बड़ी मात्रा में data बाहर भेजते हैं।

  • कुछ सुझाव

    • कृपया system font (San Francisco) को UI option के रूप में जोड़ें। SF Mono भी अच्छा रहेगा।
    • beginners के लिए model usage पर मदद की ज़रूरत है। शुरुआत कैसे करें, यह बताने वाली एक intro screen हो तो अच्छा होगा।
    • ज़्यादातर Mac apps की तरह Command-comma से settings खुलें, यह अच्छा रहेगा।
    • web links पर क्लिक करने से Safari (या preferred browser) खुले, यह बेहतर होगा।

  • उसी interface में OpenAI API इस्तेमाल करने का option जोड़ना भी अच्छा होगा।

    • मैं अभी jan.ai इस्तेमाल कर रहा हूँ।

  • क्या app में online models जोड़ने की योजना है? local models अभी online models के मुकाबले नहीं ठहरते।

    • एक consistent chat interface में GPT/Claude/local models के बीच switch कर पाना अच्छा होगा।

  • "local AI से बात करें" कहने के बजाय, अगर आप यह बताएँ कि local AI से बात करके हम क्या हासिल कर सकते हैं, तो यह ज़्यादा प्रभावी ढंग से बिकेगा।

    • ज़रूरत बातचीत की नहीं, बल्कि खास काम पूरे करने की है। यह कौन-कौन से काम कर सकता है? (मुझे जवाब मत दीजिए, इसे landing page और app store listing में डालिए)