Wikimedia Foundation का प्रायोगिक LLM/RAG Chrome extension 'Citation Needed' जारी

 (chromewebstore.google.com)
1 पॉइंट द्वारा GN⁺ 2024-05-13 | 1 टिप्पणियां | WhatsApp पर शेयर करें

Wikipedia Citation Needed Chrome extension

  • वेब ब्राउज़िंग के दौरान किसी खास टेक्स्ट अंश को चुनकर उस दावे का सत्यापन करता है
  • ChatGPT API का उपयोग करके Wikipedia में संबंधित दस्तावेज़ खोजता है और उन्हीं दस्तावेज़ों से उद्धरण देता है
  • चुने गए दावे को Wikipedia में समर्थन मिलता है या नहीं, इसकी जानकारी के साथ दस्तावेज़ की आख़िरी संपादन तिथि, references की संख्या जैसे document quality signals भी देता है, ताकि उपयोगकर्ता को मिलने वाली जानकारी (जिसमें Wikipedia से मिलने वाली जानकारी भी शामिल है) को अधिक संदर्भ के साथ समझने में मदद मिल सके

उपयोगकर्ता फ़ीडबैक का अनुरोध

  • यह feature generative AI का उपयोग करने वाला एक प्रायोगिक feature है, और यह कभी-कभी गलती कर सकता है, यह वे स्वीकार करते हैं
  • नतीजों की गुणवत्ता को समझने और बेहतर बनाने के लिए, extension के feedback link के ज़रिए मिली समस्याओं की रिपोर्ट करने का अनुरोध किया गया है
  • सामान्य feedback और इस बारे में ideas भी स्वागतयोग्य हैं कि रोज़मर्रा की web browsing में Wikipedia को और किन तरीकों से उपयोगी बनाया जा सकता है

डेवलपर जानकारी

  • यह extension Wikimedia Foundation की Future Audiences team ने विकसित किया है, जो Wikipedia और उसके sister projects का समर्थन करने वाला एक non-profit संगठन है

GN⁺ की राय

  • यह extension वेब पर उपयोगकर्ताओं को मिलने वाली जानकारी की विश्वसनीयता का आकलन करने में मदद कर सकता है। लेकिन Wikipedia के लेखों की अपनी गुणवत्ता और सटीकता की सीमाएँ हो सकती हैं, इसलिए इसे एकदम अंतिम मानक मानना उचित नहीं लगता।
  • ChatGPT जैसे large language models का उपयोग करके summary और verification को automate करना उपयोगकर्ता सुविधा बढ़ा सकता है, लेकिन साथ ही गलत जानकारी उत्पन्न होने का जोखिम भी रहता है। इसके लिए लगातार monitoring और सुधार के प्रयास ज़रूरी लगते हैं।
  • Wikipedia के अलावा, अगर अलग-अलग क्षेत्रों के विशेषज्ञों द्वारा सत्यापित भरोसेमंद सूचना स्रोतों को भी जोड़ा जाए, तो सत्यापन की सटीकता और व्यापकता बढ़ सकती है। लंबे समय में blockchain-आधारित decentralized knowledge base के निर्माण पर भी विचार किया जा सकता है।

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-05-13
Hacker News की राय
  • Experimental LLM powered RAG(Retrieval Augmented Generation) application Wikipedia से मिलान करके इंटरनेट पर किए गए दावों की पुष्टि करता है.
  • इस बात पर सवाल है कि क्या citations hallucinate हो रहे हैं, या यह "deterministic citations" जैसी किसी चीज़ का उपयोग करता है.
  • इस extension के लिए Wikimedia का Git repository उपलब्ध कराया गया है. README में build निर्देश अधूरे हैं और hot reload काम नहीं करता दिखता है. npm run build-dev का उपयोग करके काम करने वाला build मिल सकता है.
  • Firefox extension उपलब्ध नहीं है. इसकी वजह sidebar/sidepanel API का अंतर हो सकता है.
  • यह उम्मीद भी जताई गई है कि LLM Wikipedia articles की fact-checking करके उन्हें flag कर सके.
  • article generator और article checker के साथ मिलाकर 1 trillion pages बनाए जा सकते हैं. यह LLM के लिए उपयोगी training content हो सकता है, लेकिन लोग भी इसका उपयोग कर सकते हैं.
  • यह केवल Chrome में काम करता दिखता है. Arc में यह काम नहीं करता.
  • अकादमिक जगत में Wikipedia citations आम तौर पर प्रतिबंधित हैं. इसकी reliability कम मानी जाती है (लेखक ऐसे source को cite कर रहा होता है जिसे वह खुद edit कर सकता है), और primary sources खोजने के लिए यह अच्छा है, लेकिन अपने आप में यह secondary source है.
  • अपने बारे में पूछने पर यह "Citation Needed 2024 में विकसित की गई एक experimental feature है" जैसा जवाब देता है. लेकिन दिए गए paragraph में 2024 में विकसित 'Citation Needed' feature के बारे में कोई जानकारी शामिल नहीं है.