क्या आप अपना खुद का open source chatbot बनाना चाहते हैं?

 (hacks.mozilla.org)
1 पॉइंट द्वारा GN⁺ 2023-07-31 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • कृत्रिम बुद्धिमत्ता (AI) वेब को बदल रही है और लोगों के जीवन को प्रभावित कर रही है।
  • Mozilla पारदर्शिता, गोपनीयता, user agency और निष्पक्षता सहित भरोसेमंद AI के लिए प्रतिबद्ध है।
  • generative AI chatbots लोकप्रिय हैं, लेकिन उनमें से अधिकांश शक्तिशाली tech कंपनियों के नियंत्रण में हैं।
  • Mozilla open source की ताकत पर विश्वास करता है और कुछ कंपनियों द्वारा tech नियंत्रण को रोकने तथा users को सशक्त बनाने का प्रयास कर रहा है।
  • Mozilla ने हाल ही में internal chatbot prototype बनाने के लिए एक hackathon आयोजित किया।
  • टीम ने open source large language models (LLM) का उपयोग किया और hosting, runtime environment, model selection, bias, तथा chatbot के knowledge विस्तार जैसी चुनौतियों का सामना किया।
  • उन्होंने गोपनीयता और नियंत्रण के लिए chatbot को Mozilla के cloud infrastructure पर host करने का निर्णय लिया।
  • उन्होंने LLaMA architecture-आधारित models चलाने के लिए open source project llama.cpp का उपयोग किया।
  • उन्होंने toxicity, bias, misinformation और dangerous content के लिए models का मूल्यांकन किया और Facebook के LLaMA 2 model को चुना।
  • उन्होंने embeddings और vector search तकनीकों का उपयोग करके Mozilla-विशिष्ट internal knowledge को एकीकृत किया।
  • उन्होंने Python और विभिन्न libraries का उपयोग करके एक manual solution विकसित किया।
  • chatbot development में prompt engineering संदर्भ देने और responses को बेहतर बनाने के लिए महत्वपूर्ण है।
  • system prompt और context window chatbot की functionality और conversation context के लिए महत्वपूर्ण हैं।
  • LangChain language model क्षेत्र में एक प्रमुख orchestration tool है, लेकिन इसे सीखना और उपयोग करना जटिल हो सकता है।
  • chatbot-ui और Companion जैसे open source chatbot UI का उपयोग करके language model के लिए front end बनाया जा सकता है।
  • Mozilla ने एक prototype chatbot विकसित किया जो उसके मूल्यों को दर्शाता है और संगठन के भीतर सुरक्षित रूप से host किया गया है।
  • open source chatbots अभी भी विकसित हो रहे हैं और models का मूल्यांकन करना तथा सही विकल्प चुनना चुनौतीपूर्ण है।
  • Mozilla इस दिशा में काम कर रहा है कि developers के लिए open source machine learning ecosystem में भाग लेना और community में योगदान देना आसान हो।

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2023-07-31
Hacker News राय
  • वेबसाइटों पर UX प्रैक्टिस की कमी की भरपाई के रूप में चैटबॉट को देखा जाता है।
  • कुछ लोग चैटबॉट को परेशान करने वाला मानते हैं और नहीं सोचते कि हर बिज़नेस के पास चैटबॉट होना चाहिए।
  • वेब पर धीरे-धीरे कम कंपनियों का नियंत्रण बढ़ रहा है, जिससे विज़िबिलिटी और कम्युनिकेशन के लिए संघर्ष पैदा हो रहा है।
  • जब वेबसाइट का UI भ्रमित करने वाला होता है या महत्वपूर्ण जानकारी छिपा देता है, तब चैटबॉट का उपयोग किया जाता है।
  • चैटबॉट का असली उद्देश्य बिज़नेस के साथ पहले संपर्क के साधन के रूप में वेब और मोबाइल ऐप्स की जगह लेना है।
  • लेखक वास्तव में ओपन सोर्स चैटबॉट नहीं बना रहे हैं, बल्कि ओपन सोर्स लाइब्रेरी के उपयोग को बढ़ावा दे रहे हैं।
  • Google इंफ्रास्ट्रक्चर के अंदर सर्वर सेट करना वास्तव में निजी नहीं है और Mozilla के नियंत्रण में भी नहीं है।
  • कुछ लोगों का चैटबॉट के साथ सकारात्मक अनुभव रहा है, जो पारंपरिक सर्च तरीकों की तुलना में अधिक मददगार साबित हुआ।
  • vector database chat model बनाने और semantic similarity search को स्केल करने के लिए संसाधन उपलब्ध कराए गए हैं।