हमने 'Bullshit' को ऑटोमेट कर दिया

 (cst.cam.ac.uk)
1 पॉइंट द्वारा GN⁺ 2023-11-18 | 1 टिप्पणियां | WhatsApp पर शेयर करें

AI से जुड़ी चर्चा

  • AI पर चर्चा अफ्रीका में AI के महत्व के सवाल से शुरू होती है.
  • हाल ही में अमेरिका के राष्ट्रपति और ब्रिटेन के प्रधानमंत्री द्वारा AI पर executive order और summit आयोजित किए जाने के बाद AI के भविष्य को लेकर रुचि बढ़ी है.
  • यह सवाल उठता है कि AI वास्तव में तर्क या तथ्यों पर नहीं, बल्कि predictive text पर निर्भर "bullshit" पैदा करता है.

AI कैसे काम करता है

  • MIT के AI प्रोफेसर Rodney Brooks, ChatGPT को "ऐसी चीज़ बनाना जो सुनने में अच्छी लगे" कहकर संक्षेप में समझाते हैं.
  • "सुनने में अच्छी लगने वाली चीज़" का मतलब इंटरनेट पर मिले टेक्स्ट की नकल करने वाला algorithm है, और "बनाना" predictive text पर आधारित बुनियादी randomness को दर्शाता है.
  • दूसरे अग्रणी AI शोधकर्ताओं ने भी इसी तरह की राय दी है, और इसे 'stochastic parrots' पेपर आदि में अधिक तकनीकी विवरण के साथ समझाया गया है.

AI और सच

  • AI के "godfather" Geoffrey Hinton ने चेतावनी दी है कि chatbot बुद्धिमान होने से ज़्यादा, बहुत प्रभावशाली तरीके से टेक्स्ट बनाने में ख़तरनाक हो सकते हैं.
  • ऐसे संसार में जहाँ सबूत और तर्क का सम्मान नहीं किया जाता, वहाँ बिना सबूत या तर्क के काम करने वाली प्रणालियाँ केवल persuasion के बल पर हावी हो सकती हैं.
  • दार्शनिक Harry Frankfurt की 'On Bullshit' में ऐसे "bullshit" की व्याख्या है जो सच की प्रामाणिकता को सीधे नकारता नहीं, बल्कि उसे नज़रअंदाज़ करता है.

AI और सामाजिक प्रभाव

  • ब्रिटेन के प्रधानमंत्री AI और एक automated "bullshit generator" से प्रभावित क्यों हुए होंगे?
  • David Graeber की 'Bullshit Jobs' पर की गई पड़ताल AI के असली चरित्र को सामने लाती है.
  • ब्रिटेन के 30% से अधिक कामगार मानते हैं कि उनका काम समाज को कोई मूल्य नहीं देता.
  • विश्वविद्यालयी शिक्षा का एक हिस्सा युवाओं को इस तरह तैयार करता है कि वे जीवन से बहुत अपेक्षा किए बिना नौकरशाही प्रक्रियाओं के अनुरूप ढल जाएँ.

AI सिस्टम की ट्रेनिंग

  • AI सिस्टम Twitter, Facebook, Reddit जैसे विशाल "bullshit" archive और वास्तविक तथ्यों वाले टेक्स्ट, दोनों पर train किए जाते हैं.
  • ChatGPT में यह जाँचने का कोई algorithm नहीं है कि कौन-सा हिस्सा सच है, इसलिए उसका output "bullshit" की परिभाषा में आता है.
  • Twitter ऐसे राजनेताओं को बढ़ावा देता है जिन्हें सच-झूठ की परवाह नहीं होती, और उनके बयानों का archive automated "bullshit generator" को train करने में इस्तेमाल हो सकता है.

GN⁺ की राय

  • इस लेख का सबसे महत्वपूर्ण बिंदु यह है कि AI द्वारा बनाया गया कंटेंट सच और तर्क पर आधारित नहीं होता, बल्कि ऐसा "bullshit" बना सकता है जो लोगों को प्रभावित कर दे.
  • इससे सामाजिक संवाद और सूचना की गुणवत्ता प्रभावित हो सकती है, और AI तकनीक के विकास के साथ यह समस्या और महत्वपूर्ण होती जाएगी.
  • यह लोगों के लिए इसलिए दिलचस्प है क्योंकि इससे AI के हमारे रोज़मर्रा के जीवन और नौकरी बाज़ार पर संभावित प्रभाव को समझने में मदद मिलती है, और तकनीक से आने वाले बदलावों के लिए तैयार होने का अवसर मिलता है.

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2023-11-18
Hacker News राय

  • पहली टिप्पणी का सार:

    • LLM (Large Language Model) "क्या यह सही जवाब जैसा दिखता है" के आधार पर काम करते हैं, और जो लोग विशेषज्ञ नहीं हैं उनके लिए यह तय करना कठिन होता है कि LLM का जवाब सटीक है या नहीं.
    • LLM विशेषज्ञों के लिए उपयोगी टूल हैं, क्योंकि वे अपने क्षेत्र में LLM द्वारा दिए गए code snippet की सटीकता का आकलन कर सकते हैं.

  • दूसरी टिप्पणी का सार:

    • ChatGPT को विभिन्न स्रोतों के डेटा पर train किया गया है, इसलिए वह सही तथ्यों और अनिश्चित जानकारी में फर्क किए बिना जवाब बना सकता है.
    • इंसान भी कुछ हद तक इसी तरह सीखते हैं, इसलिए LLM के output पर पूरी तरह भरोसा नहीं करना चाहिए.

  • तीसरी टिप्पणी का सार:

    • LLM द्वारा दिए गए जवाब इंसानी बातचीत में अगले संभावित token की भविष्यवाणी करने के तरीके से मिलते-जुलते हैं.
    • शुरुआती चरण में होने के बावजूद, LLM बातचीत के ज़रिए समस्याएँ हल करने में काफ़ी क्षमता दिखाते हैं.

  • चौथी टिप्पणी का सार:

    • LLM मानव भाषा की नकल करते हुए भाषा की संरचना में encoded तर्क क्षमता की भी नकल करते हैं.
    • LLM में सटीक memory की कमी हो सकती है, लेकिन सही prompt के ज़रिए आवश्यक जानकारी शामिल करके इसकी भरपाई की जा सकती है.

  • पाँचवीं टिप्पणी का सार:

    • LLM समस्या-समाधान में बातचीत-आधारित तरीका अपनाते हैं और workflow में बदलाव लाते हैं.

  • छठी टिप्पणी का सार:

    • LLM भाषा-क्षमता पर केंद्रित तकनीक हैं, और यदि इन्हें समग्र reasoning system या factual database के साथ integrate न किया जाए तो समस्याएँ पैदा हो सकती हैं.

  • सातवीं टिप्पणी का सार:

    • LLM कभी-कभी गलत जवाब दे सकते हैं, लेकिन उपयोगकर्ता इन्हें कैसे इस्तेमाल करता है, इसके आधार पर ये productivity बढ़ा सकते हैं.

  • आठवीं टिप्पणी का सार:

    • भाषा को स्वयं एक ऐसे "bullshit generator" के रूप में देखा जा सकता है जो "सच" से स्वतंत्र रूप से काम करता है, और LLM भाषा की इसी विशेषता का उपयोग करते हैं.

  • नौवीं टिप्पणी का सार:

    • फ़्रेंच में "baratineur" शब्द ऐसे व्यक्ति के लिए इस्तेमाल होता है जो सच या झूठ की परवाह किए बिना सामने वाले को वही कहता है जो वह सुनना चाहता है, और यह LLM के लिए अधिक उपयुक्त अभिव्यक्ति हो सकती है.

  • दसवीं टिप्पणी का सार:

    • यदि LLM द्वारा बनाया गया code आवश्यकताओं को पूरा करता है, तो वह "bullshit" नहीं है और खास संदर्भों में उपयोगी हो सकता है.