आधुनिक युग का भविष्यवक्ता या बकवास मशीन — ChatGPT की दुनिया में कैसे फलें-फूलें

 (thebullshitmachines.com)
8 पॉइंट द्वारा GN⁺ 2025-02-10 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • हम उम्मीद करते हैं कि सुपरइंटेलिजेंट कंप्यूटर सिस्टम नवाचार और समृद्धि का एक युग लाएँगे
  • ChatGPT के आने के बाद कुछ लोग इसे आधुनिक युग का भविष्यवक्ता कहते हैं, जबकि कुछ अन्य इसे बकवास मशीन मानते हैं
  • तकनीकी विशेषज्ञ और PR से जुड़े लोग दावा करते हैं कि LLM हमारे काम, सीखने, खेलने, संवाद करने, रचने और जुड़ने के तरीकों में क्रांति ला देंगे
  • AI दैनिक जीवन के लगभग हर पहलू को प्रभावित करेगा
  • यह लोगों को सामान्य भाषा में कंप्यूटर से बात करने में सक्षम बनाकर, कंप्यूटिंग की पहुँच को काफी बेहतर बनाता है
  • लेकिन AI सिस्टम जितनी उपयोगी भूमिका निभा सकते हैं, उतना ही सूचना वातावरण के विशाल बकवास से भर जाने का जोखिम भी है

"यह तकनीक मानवता द्वारा बनाई गई सबसे परिवर्तनकारी तकनीक होगी, और इसकी तुलना printing press, electricity, और internet के आविष्कार से की जा सकती है"
— Sam Altman, OpenAI CEO

  • पसंद हो या न हो, LLM अब हमारी ज़िंदगी का हिस्सा बन चुके हैं
  • आप ऑनलाइन LLM द्वारा तैयार किया गया कंटेंट पढ़ रहे हैं, और बहुत से लोग LLM चैटबॉट्स के साथ इंटरैक्ट कर रहे हैं
  • कुछ लोग LLM का उपयोग करके खुद भी कंटेंट बना रहे हैं

LLM युग में कैसे बचें

  • 5~10 मिनट के लेक्चरों के ज़रिए यह समझाया जाएगा कि LLM क्या हैं और वे कैसे काम करते हैं
  • आप यह सीख सकते हैं कि किन स्थितियों में यह समय और मेहनत बचाते हैं और किन स्थितियों में इनके गलती करने की संभावना अधिक होती है
  • बढ़ा-चढ़ाकर की गई मार्केटिंग के बीच वास्तव में उपयोगी जानकारी और अतिरंजित दावों में फर्क करना सीखना ज़रूरी है

लेसन सूची

  • लेसन 1: तेज़ रफ़्तार Autocomplete (Autocomplete in Overdrive)
  • लेसन 2: बकवास की प्रकृति (The Nature of Bullshit)
  • लेसन 3: Turing Test और बकवास बेंचमार्क (Turing Tests and Bullshit Benchmarks)
  • लेसन 4: ऐसे कंप्यूटर जिनसे आप बात कर सकते हैं (Computers You Can Talk To)
  • लेसन 5: समझना मुश्किल, ठीक करना उससे भी मुश्किल (Hard to Understand, Harder to Fix)
  • लेसन 6: नहीं, वे ऐसा नहीं कर रहे हैं! (No, They're Not Doing That!)
  • लेसन 7: Voice Cloning से Shrimp Jesus तक (From Voice Cloning to Shrimp Jesus)
  • लेसन 8: जहरीले मशरूम और डॉगी पासपोर्ट (Poisonous Mushrooms and Doggie Passports)
  • लेसन 9: नीले लिंक मायने रखते हैं (Blue Links Matter)
  • लेसन 10: लेखन की मानवीय कला (The Human Art of Writing)
  • लेसन 11: शिक्षा में बदलाव? (Transforming Education?)
  • लेसन 12: AI Scientist (The AI Scientist)
  • लेसन 13: बकवास काम के लिए बकवास मशीनें (Bullshit Machines for Bullshit Work)
  • लेसन 14: प्रामाणिकता (Authenticity)
  • लेसन 15: कृत्रिम बुद्धिमत्ता और मानवीय मूर्खता (Artificial Intelligence and Human Stupidity)
  • लेसन 16: पहले कदम की भ्रांति (The First-Step Fallacy)
  • लेसन 17: आपका अपना निजी Truman Show (Your Own Private Truman Show)
  • लेसन 18: लोकतंत्र (Democracy)

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2025-02-10
Hacker News राय

  • यह लेख AI के बारे में बहुत आत्मविश्वास भरे दावों से भरा है, लेकिन उनमें आधार की कमी है और कुछ गलत भी लगते हैं

    • यह दावा कि AI के पास "बुनियादी सत्य" नहीं है, गलत है
    • यह कहना कि AI तार्किक रूप से तर्क नहीं कर सकता, बढ़ा-चढ़ाकर कहा गया दावा है
    • यह भी सही नहीं है कि AI यह समझा नहीं सकता कि वह किसी निष्कर्ष तक कैसे पहुँचा
    • ऐसे आत्मविश्वास भरे दावे बल्कि कमजोर models की आलोचना जैसे लगते हैं

  • एक दोस्त ऐसी टीम में काम करता है जो सरकारी नीति को प्रभावित करती है, और टीम के एक युवा सदस्य ने LLM से लिए गए आंकड़ों से भरी एक रिपोर्ट लिखी

    • रिपोर्ट गलत और अविश्वसनीय थी
    • developers LLM के काम करने के तरीके को अच्छी तरह समझते हैं, और output की अशुद्धियों की समीक्षा कर उन्हें ठीक कर सकते हैं
    • बहुत से लोग इन टूल्स पर भरोसा करने लगेंगे, और गलत कंटेंट की बाढ़ आ जाएगी

  • AI का मौजूदा version छात्रों के लिए खतरनाक हो सकता है, और उन्हें पहले से भी खराब बना सकता है

    • non-technical दोस्तों की मदद करते समय, मैं बदलाव की गति पर ध्यान देता हूँ और इस बात पर जोर देता हूँ कि reliability, possibility से काफी पीछे है
    • adversarial environment अभी भी अनसुलझा है, और भविष्यवाणियाँ अनिश्चित हैं
    • तोते की तरह दोहराने वाले लोगों की भविष्यवाणियों पर भरोसा नहीं किया जा सकता
    • RL के मौजूद होने की वजह से auto-correction का दावा बढ़ा-चढ़ाकर किया गया है
    • निराशावादी शायद गलत हों, लेकिन उनके दावों को हल्के में लेने वाले लोग निराशावादियों से भी कम समझते हैं

  • "The AI scientist" सेक्शन शानदार था

    • यह तोता-तर्क वाले जाल में फँसे बिना AI के सकारात्मक use cases दिखाता है
    • यह विज्ञान में AI के सकारात्मक उपयोग, हानिकारक उदाहरणों और समय बर्बाद करने वाले उदाहरणों को निष्पक्ष रूप से पेश करता है

  • यह सामग्री बुनियादी है, लेकिन व्यापक पाठकवर्ग के लिए उपयोगी है

    • models को मानवीय रूप न देने की बात का उल्लेख अच्छा लगा
    • 50 वर्ष से अधिक उम्र के नीति-निर्माताओं के लिए इस course को सुनना 19 साल के freshman से अधिक उपयोगी होगा

  • LLM को सिर्फ अगला token अनुमान लगाने वाला तोता कहना अर्थहीन है

    • इंसान भी कीबोर्ड पर अगली key का अनुमान लगाते हैं
    • यह दृष्टिकोण बस आने वाली तकनीकी क्रांति से आँख मूँदने जैसा है

  • छात्रों के लिए AI environment को समझना चुनौतीपूर्ण है

    • मैं यह सामग्री छात्रों के साथ साझा करने पर विचार कर रहा हूँ
    • जो छात्र हर चीज़ के लिए LLM का इस्तेमाल करना चाहते हैं, उनके इस सामग्री से जुड़ने की संभावना कम है
    • यह समझाने वाला एक पैराग्राफ जोड़ने का सुझाव है कि बिना LLM के लिखना विज्ञान के क्षेत्र में क्यों महत्वपूर्ण है

  • काश शीर्षक इतना anti-tech न होता

    • मैं इस course को काम पर आगे बढ़ाना चाहता हूँ, लेकिन ऐसा करने पर मैं नकारात्मक और बाधा डालने वाला व्यक्ति लग सकता हूँ

  • यह सामग्री एक शानदार resource है

    • मैं मेडिकल छात्रों को ML और LLM की प्रगति के बारे में बुनियादी ज्ञान देने वाला एक course डिज़ाइन कर रहा हूँ
    • लक्ष्य है मेडिकल ML को समझाना, तकनीक की संभावनाएँ दिखाना, और इसे सुरक्षित रूप से अपनाने का रास्ता बताना

  • मैं इस सामग्री का सच में आनंद ले रहा हूँ

    • Lesson 11 में कुछ टाइपो मिले
    • "No one is going to motivated by a robotic..." में "be" छूटा हुआ है
    • "People who are given a possible solution to a problem tend to less creative at..." में "be" छूटा हुआ है