HN रिलीज़: ChatGPT के लिए एक non-linear user interface बनाना

 (grafychat.com)
1 पॉइंट द्वारा GN⁺ 2024-05-09 | 1 टिप्पणियां | WhatsApp पर शेयर करें

Grafychat का परिचय

  • Grafychat, ChatGPT और अन्य conversational AI के लिए privacy-friendly canvas-based visual notebook है
  • OpenAI, Google AI और local Ollama models के साथ काम करता है
  • आप API key लाकर chat शुरू कर सकते हैं

Grafychat की मुख्य विशेषताएँ

अंतहीन canvas

  • chats को visual तरीके से organize किया जा सकता है
  • बातचीत को manage करने के लिए dots को connect किया जा सकता है
  • ज़रूरत के मुताबिक जितने चाहें उतने canvas बनाए जा सकते हैं

privacy-friendly

  • सब कुछ user की device पर store होता है
  • data केवल non-local LLM requests के लिए device से बाहर जाता है
  • signup या account की ज़रूरत नहीं है

results पर नियंत्रण

  • custom instructions को आसानी से apply किया जा सकता है
  • real time में model बदला जा सकता है
  • model parameters को adjust किया जा सकता है

शक्तिशाली search

  • सभी data पर full-text search उपलब्ध है
  • precision के साथ filter किया जा सकता है
  • results में आसानी से navigate किया जा सकता है

OpenAI के लिए top-tier support

  • GPT-4 सहित सभी ChatGPT models का support
  • voice input/dictation support
  • voice generation/narration support
  • image generation support
  • ChatGPT के active subscription की ज़रूरत नहीं है
  • अपनी OpenAI API key इस्तेमाल की जा सकती है

free में इस्तेमाल होने वाले local models

  • Ollama support (Mac, Windows, Linux)
  • लगातार बढ़ता open source model catalog
  • शक्तिशाली Llama 3 आदि
  • पूरी तरह free में इस्तेमाल किया जा सकता है
  • बस अपनी device पर Ollama app चलाकर configure करना है

customizable prompt library

  • पूरे app में इस्तेमाल की जा सकती है
  • prompts को आसानी से save, edit और reuse किया जा सकता है

हर chat एक Markdown editor

  • हर chat को edit किया जा सकता है
  • data को साफ-सुथरा रखा जा सकता है
  • Inspector से Markdown में export किया जा सकता है

Inspector के साथ classic chat view

  • Inspector में chat शुरू या जारी रखी जा सकती है
  • मौजूदा conversation को select और inspect किया जा सकता है
  • Markdown में export किया जा सकता है

customizable look and feel

  • Flow में color जोड़े जा सकते हैं
  • खास हिस्सों को show/hide किया जा सकता है
  • बातचीत के कुछ हिस्सों को label किया जा सकता है

कई AI providers का support

  • OpenAI
  • Google AI
  • Ollama के ज़रिए Llama 3
  • और यह सूची लगातार बढ़ रही है

BYOAK - अपनी API key खुद लाएँ

  • JSON file के रूप में data import/export
  • keyboard shortcuts
  • code highlighting support
  • chat pin करना, color tags लगाना
  • custom background
  • dark mode
  • वगैरह

pricing और license जानकारी

  • one-time purchase से license अपने पास रखा जा सकता है
  • हर license में 5 activations शामिल हैं और इसकी कोई expiry date नहीं है
  • Standard ($39): सभी restrictions हटती हैं, सभी features unlock होते हैं
  • Extended ($59): Standard के सभी features + self-hosting package, desktop app जल्द coming soon
  • Premium ($79): Extended के सभी features + premium support, desktop app जल्द coming soon

FAQ सारांश

  • Grafychat, ChatGPT और अन्य conversational AI के लिए privacy-friendly canvas-based visual notebook है
  • यह subscription-based app नहीं है; one-time purchase से license अपने पास रखा जा सकता है
  • 5 activations का मतलब है कि license key को 5 अलग devices पर इस्तेमाल किया जा सकता है
  • OpenAI, Google AI, local Ollama models सहित कई chatbot providers का support
  • signup या OpenAI subscription की ज़रूरत नहीं है
  • desktop app अभी रिलीज़ नहीं हुआ है, लेकिन development में है
  • Grafychat.com user data को retain नहीं करता
  • refund policy के लिए अलग से संपर्क करना होगा

GN⁺ की राय

  • Grafychat, ChatGPT या GPT-4 जैसे विभिन्न conversational AI models को visual तरीके से manage करने वाला tool लगता है। खासकर बातचीत की सामग्री को canvas के रूप में organize और connect किया जा सकता है, इसलिए बातचीत को व्यवस्थित ढंग से संभालने में यह उपयोगी दिखता है।
  • user data को device पर store करना और API key सीधे user से लेना जैसी privacy-केंद्रित बातें इसकी मजबूतियाँ हैं। हालांकि non-local LLM requests के समय data बाहर भेजा जाता है, इसलिए इस पहलू पर ध्यान देना चाहिए।
  • open source model Ollama का support होने से इसे free में इस्तेमाल किया जा सकता है, और prompt library जैसी सुविधा से अक्सर इस्तेमाल होने वाले prompts को save और reuse किया जा सकता है; कुल मिलाकर usability बढ़ाने वाली कई सुविधाएँ हैं।
  • दूसरी ओर, subscription की जगह license model होने से कीमत कुछ लोगों को भारी लग सकती है। Standard tier भी $39 का है, जो कम नहीं है। features अधिक हैं और privacy पर ध्यान दिया गया है, लेकिन open source models को free में इस्तेमाल कर पाने की बात को देखते हुए pricing competitiveness पर सवाल उठ सकता है।
  • अभी desktop app नहीं है और सेवा केवल web-based है। साथ ही यह एक नया service होने के कारण stability और long-term continuity को लेकर अनिश्चितता भी adoption के समय विचार करने योग्य बिंदु है।

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-05-09
Hacker News की राय

  • साइट पर CSS की सिर्फ एक लाइन की वजह से मेरा लैपटॉप बुरी तरह अटकने लगा
    वजह है modal में इस्तेमाल हुआ backdrop-filter: blur(0.1875rem), जैसे YouTube वीडियो पॉपअप में

    • मैं frontend developer हूँ, और इसी वजह से यह effect कभी apply नहीं करता
      high-performance laptop पर भी power consumption बहुत ज़्यादा होता है और fan तेज़ चलने लगता है
    • मुझे हैरानी होती है कि blur effect हमेशा इतनी power क्यों खाता है
      पता नहीं GPU इस्तेमाल करने का कोई तरीका नहीं है, या मामला बिल्कुल अलग है

  • मैंने पहले एक मिलते-जुलते interface के बारे में सोचा था जिसमें drag feature नहीं था, सिर्फ tree visualization था
    आम तौर पर उसी conversation में side topics पर बात होती है, लेकिन बाद में AI confuse न हो इसलिए side topic जहाँ से शुरू हुआ था, उस पुराने message को edit कर देता हूँ
    लेकिन OpenAI उस side-branch tree को हटा देता है, इसलिए अच्छा होगा अगर explored side topics का tree दिखे, बिना manually sort किए

    • क्या ChatGPT पूरा tree store नहीं करता? पिछली बार देखा था तो किसी खास node से आगे-पीछे switch कर सकते थे

  • दिलचस्प approach है। लगता है यह आम intermediate-stage workflow को address करता है
    final output भले ही linear form में पसंद हो, पर असल काम अक्सर पहले hierarchy पूरी करने के तरीके से आगे बढ़ता है
    मैं कई सालों से Gingko https://gingkowriter.com/ इस्तेमाल कर रहा हूँ; यह अनंत step expansion की अनुमति देता है और फिर भी आसानी से linear structure में fold हो जाता है, जिससे problem structure को organize करने का बोझ कम होता है
    इस मामले में मैं सोच रहा हूँ कि क्या tree की leaves की संख्या जितने N contexts maintain किए जाते हैं, chats आपस में अलग हैं या नहीं, और एक endless unstructured canvas से organized final output तक कैसे पहुँचा जाएगा

    • अच्छा सवाल है
      context आखिरकार grouping method का ही एक रूप है, इसलिए leaves की संख्या जितने contexts maintain होंगे या नहीं, यह situation पर निर्भर करता है
      unstructured canvas से organized output पर जाने वाले हिस्से को मैं app के अंदर commands के साथ जुड़े RAG के रूप में देख रहा हूँ, और local RAG solution पर काम कर रहा हूँ
      अभी early stage है लेकिन promising है; मूल रूप से यह सभी data से बात करने और उसके ऊपर अलग-अलग commands apply करने का तरीका है
    • समझ नहीं आता कि organized final output में बदलना ज़रूरी क्यों है
      एक संभावित user, और खुद ऐसा tool बनाने के बारे में सोच चुके व्यक्ति के तौर पर, tree या और सही कहें तो directed graph ही desired final result है
    • थोड़ा topic से हटकर, लगता है Mac के लिए Gingko जैसा standalone software था
      खोजने पर लगता है कि यह Gingko के पुराने desktop app का version है, और अभी भी https://github.com/gingko/client/releases से मिल सकता है
    • जिस software को पूरी तरह मेरे computer में रहना चाहिए, उस पर subscription pricing लगाना स्वीकार करना मुश्किल है

  • Obsidian और https://github.com/AndreBaltazar8/obsidian-canvas-conversati... जैसे plugins इस्तेमाल करके ऐसा कुछ खुद आसानी से बनाया जा सकता है

    • यह वैसा ही है जैसे Dropbox को कुछ scripts और sftp से replace करना
    • नीचे के comment में Obsidian Canvas के लिए और free plugins बताए गए हैं: https://news.ycombinator.com/item?id=40301465
    • "आसानी से" सिर्फ technical लोगों के लिए है, आम users के लिए नहीं

  • demo देखकर दिलचस्प लगा, लेकिन nodes को drag-drop करते हुए और अपनी रुचि वाले nodes खोजते-खोजते जल्दी थक जाऊँगा
    सोच रहा हूँ कि search feature है या नहीं
    अगर AI agent की तरह graph view बना दे, या कम से कम follow-up questions suggest/highlight करे और वे अपने-आप graph में organize हो जाएँ, तो यह और interesting होगा

    • search यहाँ मेरी पसंदीदा features में से एक है। / shortcut try करें
    • निजी तौर पर, मुझे organize करने और drag-drop में समय लगाने में value दिखती है
      शायद इसलिए कि मैं visual thinking वाला हूँ

  • मेरा इकलौता feedback यह है कि closed-source AI product संदिग्ध लगता है, इसलिए शायद मैं इसे नहीं खरीदूँगा
    फिर भी subscription model के trend से बचने के लिए शुक्रिया, यह अच्छी बात है
    अगर यह open source हो ताकि साफ पता चल सके कि telemetry नहीं भेजी जा रही, और support cost charge की जाए, तो मैं पैसे दे सकता हूँ
    हालांकि मैं थोड़ा अलग सोच वाला हो सकता हूँ, इसलिए इसे उसी हिसाब से लें
    idea शानदार है, और focus करके weekend में एक-दो दिन में MVP जैसा कुछ बनाया जा सकता है
    बेशक जिन fancy features में मेरी निजी दिलचस्पी नहीं है, उन्हें implement करने में ज़्यादा समय लग सकता है

    • क्या self-hosting option practical solution हो सकता है?
      https://www.grafychat.com/d/docs/selfhost
      हालांकि शायद यह मानना होगा कि code obfuscated नहीं है
    • ऐसे projects के लिए open-build जैसी कोई methodology हो तो अच्छा होगा जो source सार्वजनिक नहीं करना चाहते, लेकिन build पर ज़रूरी audit कराने को तैयार हैं

  • अच्छा होगा अगर OpenAI या Anthropic UI में भी ऐसा feature मिले
    असल में बस "create a new chat from here" ही काफी होगा
    product अच्छा है और अच्छी तरह बनाया गया है, लेकिन price मेरे लिए blocker है

    • software खरीदने का फैसला मैं अक्सर अपने इलाके के McDonald's drive-thru menu की prices से compare करके सोचता हूँ
    • third-party clients इसे support करते हैं
      उदाहरण के लिए MindMac का "Fork from this message" feature मुझे पसंद है
    • पहले वाले question को edit करने से यह purpose काफी अच्छी तरह पूरा हो जाता है
      existing UI भी पिछले edits को revision tree के रूप में पूरा रखता है

  • landing page अच्छी है और product को काफी अच्छी तरह explain करती है
    पहले कभी मुझे ऐसा कुछ चाहिए था, इसलिए यह concept भी पसंद आया

  • share किए गए demo में मूल parent chat से child chat बनाते हुए दिखता है
    सोच रहा हूँ कि क्या आपने दो child chats को connect/merge करके अगली child chat बनाने का तरीका, या previous child chat से फिर child chat बनाने का तरीका भी try किया है

    • अच्छा होगा अगर ऐसा node हो जो JSON, TXT, CSV files वाले folder को load करे, उन्हें एक-एक करके pass करे और results को दूसरे folder में collect करे
      यह LLM pipeline या prompt editor जैसा रूप होगा

  • कुछ frontends में integrate करने लायक add-on के तौर पर, मैंने sensitive information leak होने से बचाने में मदद करने वाला find-replace key-value store बनाया था
    अगर internal domain की जगह IP, domain, subdomain को something.contoso.com जैसे dummy domain से बदलकर ChatGPT को भेजा जा सके, तो यह पैसे देने लायक feature होगा
    मैंने इसे Python में implement कर रखा है, लेकिन यह अलग frontend से जुड़ा add-on है इसलिए काफी rough है