MemoryCache - ब्राउज़र-आधारित Local AI को मजबूत करने के लिए Mozilla की परियोजना

 (future.mozilla.org)
3 पॉइंट द्वारा GN⁺ 2023-12-13 | 2 टिप्पणियां | WhatsApp पर शेयर करें
  • लोकल डेस्कटॉप वातावरण को on-device AI agent में बदलने के लिए एक प्रयोगात्मक डेवलपमेंट प्रोजेक्ट
  • ब्राउज़र में संग्रहीत लोकल फ़ाइलों से on-device मॉडल को मजबूत करके अधिक व्यक्तिगत और अनुकूलित अनुभव प्रदान करना
  • फिलहाल MemoryCache, privateGPT की लोकल कॉपी को सुदृढ़ करने के लिए स्क्रिप्ट्स और सरल टूल्स का एक सेट है
    • Firefox extension: /Downloads/ फ़ोल्डर की एक उप-डायरेक्टरी में पेज सेव करने वाले एक सरल 'printer' की भूमिका, और ब्राउज़र से लोकल कंप्यूटर पर नोट्स व जानकारी तेज़ी से सेव करने की सुविधा शामिल
    • shell script: /Downloads/MemoryCache/ डायरेक्टरी में बदलाव पहचानकर privateGPT की ingest.py script चलाती है
    • इंसानों के लिए पढ़ना आसान बनाने हेतु, वेबपेज को PDF के रूप में अपने-आप सेव करने योग्य बनाने के लिए संशोधित Firefox SaveAsPDF API code

संबंधित पढ़ाई

2 टिप्पणियां

 
ndrgrd 2023-12-14

सब अच्छा है, लेकिन उम्मीद है कि वे बार-बार browser को तरह-तरह की कबाड़ चीज़ें ठूँसकर एक junk shop बनाने की कोशिश नहीं करेंगे.
पुराने internet suite से कुछ सबक मिले होंगे.

browser तो browser है. AI तो AI है. ज़रूरत पड़े तो उसे अलग से चला लेना ही काफ़ी है.
 
GN⁺ 2023-12-13
Hacker News टिप्पणियाँ

  • इस विषय पर Reddit में बात हुई थी। डेटा को model के पास भेजने के बजाय model को वहीं आना चाहिए जहाँ हमारा डेटा local में stored है, और उसे local में ही रहना चाहिए। बहुत-सा open source software personal data लोड कर सकता है, लेकिन images या videos को process नहीं कर पाता। भविष्य में शायद हर किसी के पास अपना model हो, लेकिन अभी technology तो है, पर ऐसे products/open source software कम हैं जिनसे हर किसी के पास अपना QLORA, RAG, summarizer हो सके। सिर्फ messages/documents ही नहीं, बल्कि हम क्या पढ़ते हैं, क्या लिखते हैं, और क्या सोचते हैं, यह भी हमारी व्यक्तिगत विशिष्टता बनाता है। हमारी browsing history इस बारे में बहुत कुछ बताती है कि हम क्या पढ़ते हैं, लेकिन Google के ads के लिए इसे इस्तेमाल करने के अलावा लगभग कोई इसका उपयोग नहीं करता। लगभग हर व्यक्ति की कुछ news sites, social networks, YouTube videos आदि पढ़ने/देखने की आदत होती है। आज इन तीनों से एक summary बना दो.*

    • यह राय कि डेटा को model के पास भेजने के बजाय model को user के local डेटा तक पहुँचनी चाहिए।
    • अभी बहुत-सा open source software है, लेकिन image और video processing अभी भी कमज़ोर है।
    • किसी व्यक्ति की विशिष्टता उसके पढ़ने, लिखने और सोचने में भी झलकती है, और browsing history के उपयोग के उदाहरण अभी बहुत कम हैं।

  • Mozilla को Firefox और राजनीतिक उपदेशों को लेकर काफ़ी आलोचना मिलती है, लेकिन मुझे अब भी लगता है कि उसमें privacy-केंद्रित और user-friendly तकनीक बनाने की क्षमता है। मैं FF के built-in offline translator का अक्सर उपयोग करता हूँ, और यह कि वह बिना किसी server park के local में चल सकता है, किसी जादू जैसा लगता है। उम्मीद है यह प्रयोग सफल होगा.*

    • Mozilla के पास अब भी privacy और user-friendly तकनीक बनाने की क्षमता है, इस बारे में सकारात्मक राय।
    • Firefox के built-in offline translator की local execution क्षमता पर प्रशंसा।

  • browsing उपयोग के संदर्भ में यह मेरे लिए सही नहीं है। मैं अपनी browsing history के साथ 'बातचीत' नहीं करना चाहता। मैं चाहता हूँ कि browser indexing करे ताकि OS bookmark के वास्तविक contents को खोज सके। मेरा मानना है कि chatGPT से मिलने वाला feedback loop हमेशा local GPT विकल्पों से बेहतर होगा। लेकिन जिन pages में महत्वपूर्ण जानकारी है, उन्हें bookmark करके बार-बार लौटना उपयोगी होता है। इसी के लिए मैंने एक समाधान बनाना शुरू किया। मैं local browser storage में मौजूद bookmarks को crawl करता हूँ, उन pages को download करता हूँ, और उन्हें OS के search index में जोड़ता हूँ। यह कई वर्षों से मेरी चिंता रही है.*

    • एक user की राय कि browser को OS में bookmark contents को index करने की सुविधा देनी चाहिए।
    • महत्वपूर्ण जानकारी वाले pages को bookmark करके आसानी से खोजने योग्य बनाने का समाधान विकसित किया जा रहा है।

  • मैं सच में browsing history और page contents के साथ 'बात' कर पाने का तरीका चाहता हूँ। क्या visited pages को बाद में process करने के लिए अपने-आप save करने का कोई तरीका है? मैंने 10 साल से भी पहले यह खोजा था, लेकिन कोई अच्छा समाधान नहीं मिला.*

    • browsing history और page contents को बाद में process करने के तरीकों में रुचि।

  • यहाँ कुछ बात हो सकती है। बड़े corporations के साथ बार-बार data भेजने-लाने को कम करके, और हर prompt के साथ उन्हें और समृद्ध करने के बजाय, privacy का कहीं ज़्यादा सम्मान करने वाले छोटे local models का उपयोग किया जाए। इस तरह के operating model में मैं open source योगदान देने या यहाँ तक कि funding देने के लिए भी तैयार हूँ। भले ही मैं Mozilla organization का बड़ा fan नहीं हूँ, फिर भी मुझे underdog का समर्थन करना पसंद है.*

    • privacy का सम्मान करने वाले छोटे local models के उपयोग के समर्थन में राय।
    • इस operating model में योगदान देने या funding देने की इच्छा।

  • मौजूदा bookmarks याददाश्त-आधारित organization method होने के कारण scalable नहीं हैं और इसलिए विफल होते हैं। इस तरह का interface scalable है, और अगर इसे सही ढंग से किया जाए तो यह पूरी तरह से उनका विकल्प बन सकता है। सोचें तो, इसे सभी local files पर भी लागू किया जा सकता है, और यह file system-database concept के बेहतर version की तरह काम कर सकता है। या किसी विशेष knowledge base (जैसे LLM-आधारित Zotero) के लिए भी इसका उपयोग हो सकता है.*

    • bookmarks की scalability समस्या और नए interface की संभावित replacement क्षमता पर राय।
    • यह interface local files या किसी विशेष knowledge base पर भी लागू हो सकता है।

  • रुचि रखने वालों के लिए PrivateGPT repository लिंक: https://github.com/imartinez/privateGPT. लगता है कि इसे official website से link नहीं किया गया है.*

    • PrivateGPT repository के बारे में जानकारी साझा की गई।

  • Firefox OS युग का अनुभव रखने वाले एक पूर्व intern के रूप में, यह मुझे भविष्य में Mozilla द्वारा दिए जाने वाले OS में फिर से प्रवेश की संभावना जैसा लगता है। internet लोगों को जोड़ने के लिए पैदा हुआ था, लेकिन हर शानदार feature को browser में समाहित करना सबसे अच्छा तरीका नहीं है। Firefox OS मूल रूप से एक छोटे Linux kernel पर Gecko और HTML5 rendering था। iOS और iPadOS की तरह Mozilla devices/platforms के लिए ऐसा ही कोई OS दे सकता है। पिछले 5 वर्षों में उसने AR और VR में निवेश किया है, इसलिए अंततः किसी दूसरे Firefox OS पर दाँव लगाना मुझे हैरान नहीं करेगा.*

    • भविष्य में Mozilla के फिर से अपना OS देने की संभावना पर अटकल।

  • क्या आप fork किए गए repository की ओर link करना चाहते थे? https://memorycache.ai/developer-blog/2023/11/30/we-have-a-website.html लिंक https://github.com/misslivirose/Memory-Cache पर जाता है, लेकिन क्या आपका मतलब https://github.com/Mozilla-Ocho/Memory-Cache था?*

    • किसी विशेष GitHub repository लिंक के बारे में सवाल।

  • मैं यह काम काफ़ी समय से कर रहा हूँ। FF solution बस थोड़ा अधिक automated है।

    • Firefox solution के बारे में व्यक्तिगत अनुभव साझा किया गया।