MemoryCache: ब्राउज़र-आधारित लोकल AI को मजबूत करने के लिए Mozilla प्रोजेक्ट

 (future.mozilla.org)
3 पॉइंट द्वारा GN⁺ 2023-12-13 | 2 टिप्पणियां | WhatsApp पर शेयर करें
  • दिया गया मुख्य पाठ Mozilla New Products होम की सामग्री है, और इसमें Hacker News शीर्षक वाले MemoryCache परिचय का मुख्य पाठ शामिल नहीं है
  • Mozilla New Products नई प्रोडक्ट्स को खोजने, टेस्ट करने और एक्सप्लोर करने की जगह है, और यूज़र्स को अगली पीढ़ी की तकनीक को आकार देने में भाग लेने के लिए आमंत्रित करता है
  • अभी दिखने वाले प्रोडक्ट्स हैं: वेबसाइट बनाने के लिए Solo, AI सिक्योरिटी bug bounty 0din, और AI सिस्टम्स के लिए web execution और data transformation API Tabstack
  • न्यूज़लेटर Mozilla के नवीनतम प्रोडक्ट्स और फीचर्स तक early access, अपडेट्स एक्सप्लोर करने और feedback शेयर करने का रास्ता देता है
  • केवल इस मुख्य पाठ से MemoryCache की संरचना, ब्राउज़र-आधारित लोकल AI को मजबूत करने का तरीका, उपयोग विधि या सीमाएं पता नहीं चलतीं

दिया गया मुख्य पाठ Mozilla New Products होम है

  • Mozilla New Products को ऐसी जगह के रूप में बताया गया है जहां उत्पादकता बढ़ाने, बिज़नेस ग्रोथ और प्रोडक्ट बनाने में मदद करने वाली innovative products खोजी, टेस्ट और एक्सप्लोर की जा सकती हैं
  • Mozilla लोगों को प्राथमिकता देने वाले solutions बनाता है, और यूज़र्स को नए प्रोडक्ट्स की testing में भाग लेकर अगली पीढ़ी की तकनीक को साथ मिलकर आकार देने के लिए आमंत्रित करता है
  • यह दिशा रखी गई है कि इंटरनेट का भविष्य खुला, accessible और privacy-first होना चाहिए

पुष्टि किए जा सकने वाले प्रोडक्ट्स और भागीदारी के रास्ते

  • Solo: मुफ्त वेबसाइट बनाने और custom domain कनेक्ट करने वाला प्रोडक्ट
  • 0din: LLM मॉडल की vulnerabilities ढूंढकर इनाम पाने वाला AI security bug bounty प्रोग्राम
  • Tabstack: AI सिस्टम्स को वेब को भरोसेमंद तरीके से पढ़ने और उस पर काम करने में मदद करने वाला web execution और data transformation API
    • यह AI agents, research tools, data pipelines और autonomous workflows बनाने वाले developers के लिए है
  • Mozilla New Products न्यूज़लेटर नवीनतम प्रोडक्ट्स और फीचर्स तक early access, अपडेट्स एक्सप्लोर करने और feedback शेयर करने की सुविधा देता है
  • दिए गए मुख्य पाठ में MemoryCache से जुड़ा विवरण नहीं है, इसलिए इसके फीचर्स या implementation details की पुष्टि नहीं की जा सकती

संबंधित पढ़ाई

2 टिप्पणियां

 
ndrgrd 2023-12-14

सब अच्छा है, लेकिन उम्मीद है कि वे बार-बार browser को तरह-तरह की कबाड़ चीज़ें ठूँसकर एक junk shop बनाने की कोशिश नहीं करेंगे.
पुराने internet suite से कुछ सबक मिले होंगे.

browser तो browser है. AI तो AI है. ज़रूरत पड़े तो उसे अलग से चला लेना ही काफ़ी है.
 
GN⁺ 2023-12-13
Hacker News की राय

  • डेटा को मॉडल के पास ले जाने के बजाय, मॉडल को लोकल डेटा के पास आना चाहिए और डेटा लोकल ही रहना चाहिए
    व्यक्तिगत डेटा को लाने वाले open source प्रोजेक्ट बहुत हैं, लेकिन वे images या videos को अच्छी तरह handle नहीं करते। आगे चलकर हर किसी के पास अपना model हो सकता है, लेकिन अभी तकनीक होने के बावजूद ऐसा product या open source कम है जो हर किसी को अपना QLORA, RAG, summarizer आसानी से दे सके
    सिर्फ messages या documents ही नहीं, हम जो पढ़ते और लिखते हैं, और हमारे विचार भी हमारी पहचान का हिस्सा हैं। browsing history यह बहुत कुछ बताती है कि हम क्या पढ़ते हैं, लेकिन Google के ads में उपयोग के अलावा इसका लगभग कोई इस्तेमाल नहीं होता। रोज़ देखी जाने वाली news sites, social networks, YouTube videos को जोड़कर यह बताना संभव होना चाहिए कि “आज इन 3 जगहों का सार यह है”
    कल https://www.youtube.com/watch?v=zHLCKpmBeKA देखते समय मैंने सोचा कि लगभग 30 साल बीत जाने पर भी अब तक ऐसा computer assistant क्यों नहीं है जो हमसे एक कदम आगे चल सके

    • “व्यक्तिगत डेटा को लाने वाले open source प्रोजेक्ट बहुत हैं, लेकिन images या videos नहीं करते” वाली बात पर, images के लिए लोकल मॉडल काफ़ी बेहतर हो रहे हैं
      LLaVA एक large language model है जिसमें multimodal image capabilities हैं, और यह मेरे laptop पर भी काफ़ी अच्छी तरह चलता है: https://simonwillison.net/2023/Nov/29/llamafile/
      Salesforce BLIP जैसे models image caption generation के लिए भी इस्तेमाल हो सकते हैं, और उसके लिए मैंने एक छोटा CLI tool भी बनाया है: https://github.com/simonw/blip-caption
    • ठीक ऐसा ही कुछ https://software.inc पर बनाया जा रहा है
      user के बारे में डेटा, यानी computer और internet से आई जानकारी को local database में इकट्ठा किया जाता है, और model को सिखाया जाता है कि वह उसका उपयोग कैसे करे। model लोकल भी हो सकता है और cloud-based भी, और data sensitivity या ज़रूरी capability के आधार पर requests को route किया जा सकता है
      अगर यह दिलचस्प लगे तो वहाँ hiring भी चल रही है
    • AI को हटाकर भी देखें, तो ऐसा archiver ही बड़ी प्रगति होगा जो देखे गए सभी webpages को पारंपरिक search से ढूँढने दे
      मेरी searches का बड़ा हिस्सा पहले देखी हुई चीज़ों को फिर से ढूँढने का होता है, लेकिन page हट चुका हो, search engine में नीचे rank हो, या पुराने HTTP-only documents की तरह SEO के शोर में दब गया हो, तो अक्सर दिक्कत आती है
    • मेरे हिसाब से GitHub Copilot ठीक इसी तरह काम करता है। पहले यह पूरे codebase और dependencies तक को scan और index करता है, फिर autocomplete के समय code context का ज़ोरदार इस्तेमाल करता है, इसलिए Copilot उपयोगी बनता है
      मैं इस बात से सहमत हूँ कि model को हमारे data की तरफ़ आना चाहिए। अगर Copilot जैसी intelligence पूरी तरह device के अंदर चल सके और messages, browsing history, webpage contents जैसे निजी traces को देख सके, तो यह game changer होगा
    • मैंने आज देखी गई sites का summary देने से भी ज़्यादा ambitious चीज़ सोची। search history और behavior का उपयोग करके search query लिखने का तरीका निकालने वाला model चाहिए
      Bing Chat की search queries ऐसी लगती हैं जैसे किसी ऐसे uncle ने डाली हों जिसे अभी-अभी search engine क्या है यह समझाया गया हो। site: या filetype: जैसे advanced operators, कम से कम parentheses और AND/OR तो इस्तेमाल होने चाहिए
      इसे बेहतरीन researchers, legal assistants, और वे autistic spectrum के teenagers जो दादाजी की Ellis Island वाली कहानी को तुरंत fact-check करके arrival records और Chicago naturalization के सबूत निकाल लाते हैं, उनकी search process की नकल करने के लिए fine-tune किया जा सकता है

  • यह अच्छा विचार है। Mozilla को Firefox चलाने में कमजोर execution और राजनीतिक उपदेशों के कारण जायज़ तौर पर काफ़ी आलोचना मिलती है, लेकिन फिर भी मुझे लगता है कि उसमें अभी भी privacy बचाते हुए user-friendly technology बनाने की क्षमता है
    मैं Firefox में built-in offline translator का अक्सर उपयोग करता हूँ, और वह जादू जैसा लगता है। मैंने नहीं सोचा था कि server farm स्तर के hardware के बिना ऐसी चीज़ लोकल में चल सकती है
    उम्मीद है यह experiment भी वैसा ही निकले

  • मेरे browsing pattern के लिए यह उतना फिट नहीं बैठता। मैं अपनी browsing history से “chat” नहीं करना चाहता, बस इतना चाहता हूँ कि browser operating system में bookmarks की सामग्री को index करे ताकि असली page content को search किया जा सके
    मेरा मानना है कि ChatGPT से मिलने वाला feedback loop हमेशा किसी local GPT equivalent से काफ़ी बेहतर होगा
    लेकिन मैं अक्सर उन pages को bookmark करता हूँ जिनमें ज़रूरी जानकारी होती है और जिन्हें बाद में दोबारा, शायद एक से अधिक बार, देखना होता है। इसलिए मैंने ऐसा solution बनाना शुरू किया है जो local browser storage के bookmarks को crawl करे, उन pages को download करे, और operating system के search index में जोड़ दे
    यह कई सालों से महसूस हो रही ज़रूरत थी

    • छोटे datasets में full-text search की recall अक्सर खराब होती है। अगर AI थोड़ा smart fuzzy search जोड़ दे, तो locally indexed bookmarks का अनुभव काफ़ी अच्छा हो सकता है
    • जब Chrome पहली बार आया था, क्या वह ऐसा कुछ नहीं करता था? मुझे धुंधली-सी याद है कि यह एक feature था
      व्यक्तिगत रूप से, अगर browsers बस history भूलना बंद कर दें तो भी मैं संतुष्ट रहूँगा। Firefox और Safari दोनों में history retention period बहुत छोटा है
    • क्या यह मूल रूप से Safari ही नहीं है? बशर्ते आप latest chips इस्तेमाल कर रहे हों

  • browsing history और page contents के साथ “chat” करने का कोई तरीका सच में हो तो अच्छा होगा। सोच रहा हूँ कि क्या visited pages को बाद में process करने के लिए अपने-आप save करने का कोई तरीका है
    मैंने 10 साल से भी पहले इसे खोजा था, लेकिन कोई ठीक-ठाक solution नहीं मिला

    • लगता है WorldBrain का Memex(https://github.com/WorldBrain/Memex) यही वादा करता है। idea रोमांचक था, लेकिन शायद कोई वजह थी कि मैंने आखिरकार इसका उपयोग बंद कर दिया
    • Recoll और Recoll-WE भी देखे जा सकते हैं: https://addons.mozilla.org/en-US/firefox/addon/recoll-we/
    • Zotero भी काम आ सकता है, लेकिन वह research-केंद्रित है इसलिए यह काफ़ी अधूरा समाधान है
    • Rewind.ai लगभग इसी उपयोग के लिए है। मैंने अभी-अभी इसे install किया है और अभी तक काफ़ी संतुष्ट हूँ

  • पारंपरिक बुकमार्क याददाश्त पर निर्भर संगठन होने की वजह से स्केल नहीं कर पाए, इसलिए वे असफल रहे। इस तरह का इंटरफ़ेस स्केलेबल हो सकता है, और अगर इसे सही तरीके से बनाया जाए तो यह बुकमार्क्स को पूरी तरह बदल सकता है
    सोचें तो इसे पूरे local files पर भी लागू किया जा सकता है, इसलिए यह पुराने “filesystem को database की तरह” इस्तेमाल करने वाले विचार का बेहतर संस्करण बन सकता है। यह किसी खास knowledge base पर भी फिट बैठता है, उदाहरण के लिए बड़े language model आधारित Zotero जैसा रूप

    • यह तो अभी-अभी Windows Longhorn का आधुनिक संस्करण ईजाद करने जैसा लग रहा है
    • क्या यही “Networked Environment for Personal, Ontology-based Management of Unified Knowledge”, यानी Nepomuk semantic desktop का विचार नहीं था?
      अगर बड़े language model से RDF सही तरह भरवाया जा सके, और आज की तरह memory और storage कहीं ज़्यादा और तेज़ हों, तो शायद यह काम कर सकता है
    • Orbit जैसा कुछ इसके लिए बिल्कुल ठीक लगेगा
      https://withorbit.com/

  • लगता है Mozilla ने कुछ सही पकड़ा है
    हर बार दिग्गज कंपनियों के साथ prompts का आदान-प्रदान करके उन्हें और अमीर बनाने के बजाय, यह छोटे local models का इस्तेमाल करता है और privacy का कहीं ज़्यादा सम्मान करता है
    अगर इसका operating model ऐसा है, तो मैं open source में योगदान देने या यहाँ तक कि फंड देने के लिए भी तैयार हूँ
    सच कहूँ तो मैं Mozilla संगठन का बहुत बड़ा प्रशंसक नहीं हूँ, लेकिन underdog का समर्थन किए बिना रहना मुश्किल है

    • भविष्य में उनकी AI हमारी AI से बात करेगी। क्योंकि हमें सुरक्षात्मक परत की ज़रूरत होगी
    • यह कुछ हद तक वैसा ही है जैसा Apple कुछ सालों से कर रहा है। बस अब भी यह साफ़ नहीं है कि उसमें कितना हिस्सा सच में “AI” है। इसलिए किसी और का उस niche में आना स्वाभाविक है

  • जिनकी रुचि हो, उनके लिए PrivateGPT repository यहाँ है: https://github.com/imartinez/privateGPT
    लगता है आधिकारिक वेबसाइट पर इसका लिंक नहीं है

    • नीचे दिए गए MemoryCache repository से इसका लिंक है: https://github.com/Mozilla-Ocho/Memory-Cache
    • जानना दिलचस्प होगा कि PrivateGPT local model के रूप में क्या इस्तेमाल करता है, और वह कहाँ से आता है
      अपडेट: खुद देखकर लगा कि local mode में यह llamacpp इस्तेमाल करता है: https://github.com/imartinez/privateGPT/blob/main/private_gp...

  • शायद इसलिए कि मैंने एक पूर्व intern के रूप में Firefox OS के दौर को देखा है, यह मुझे Mozilla के फिर से अपना operating system लाने की दिशा में re-entry जैसा लगता है
    कहा जाता था कि इंटरनेट लोगों को जोड़ने के लिए बना था, लेकिन इस तरह के सारे चमकदार features को browser में ठूँसना सबसे अच्छा तरीका नहीं है
    Firefox OS मूल रूप से एक छोटा Linux kernel, Gecko, और rendering के लिए HTML5 से बना था। iOS और iPadOS की तरह Mozilla भी devices या platforms के लिए ऐसा मिलता-जुलता operating system दे सकता है
    पिछले 5 सालों में उसने AR और VR में भी निवेश किया है, इसलिए अगर वह आखिरकार किसी और Firefox OS जैसी चीज़ पर दाँव लगाए तो हैरानी नहीं होगी

  • क्या शायद आपका इरादा fork की गई repository का लिंक देने का था?
    https://memorycache.ai/developer-blog/2023/11/30/we-have-a-w... का लिंक https://github.com/misslivirose/Memory-Cache पर जाता है
    क्या आपका मतलब https://github.com/Mozilla-Ocho/Memory-Cache था?

  • सिर्फ़ साझा किए गए लिंक देखकर यह समझना लगभग मुश्किल था कि इसका मतलब क्या है
    आधिकारिक साइट पर थोड़ा और पीछे जाने पर दिखा कि “MemoryCache local desktop environment को on-device AI agent में बदलने के लिए एक experimental development project है”
    नवंबर की एक पोस्ट भी है: Introducing Memory Cache
    https://memorycache.ai/developer-blog/2023/11/06/introducing...