कंप्यूटर कभी जवाबदेह नहीं हो सकते।

 (simonwillison.net)
17 पॉइंट द्वारा GN⁺ 2025-02-05 | 2 टिप्पणियां | WhatsApp पर शेयर करें
  • 1979 के IBM internal training से आया एक प्रसिद्ध पेज AI युग में भी प्रासंगिक है

    A COMPUTER CAN NEVER BE HELD ACCOUNTABLE
    कंप्यूटर कभी जवाबदेह नहीं हो सकते।
    THEREFORE A COMPUTER MUST NEVER MAKE A MANAGEMENT DECISION
    इसलिए कंप्यूटर को कभी management decision नहीं लेना चाहिए।

  • Twitter पर मूल स्रोत के बारे में जानकारी मांगी गई, जिस पर Jonty Wareing ने जवाब दिया:
    • किसी को यह उनके पिता के कार्य दस्तावेज़ों में मिला था, और बाद में यह बाढ़ में नष्ट हो गया
    • IBM archive के साथ पत्राचार में इसे खोजा नहीं जा सका। शाखाओं द्वारा ऐसे materials बनाना सामान्य था जिन्हें archive नहीं किया जाता था।
  • Jonty को IBM से मिला जवाब
    • यह image पहली बार ऑनलाइन फरवरी 2017 में @bumblebike के tweet में साझा की गई थी
    • पुष्टि हुई कि यह 1979 की internal training material से आया था
    • दिसंबर 2021 में @bumblebike का एक और tweet: 2019 की बाढ़ में अधिकांश सामान के साथ यह भी नष्ट हो गया
    • retirees club की Zoom meeting में पूछताछ की गई, लेकिन उपयुक्त उम्र के बहुत कम लोग थे

संबंधित पढ़ाई

2 टिप्पणियां

 
mammal 2025-02-05

"जो व्यक्ति किसी निर्णय की ज़िम्मेदारी नहीं ले सकता, उसे कभी भी manager नहीं बनना चाहिए."
 
GN⁺ 2025-02-05
Hacker News राय

  • यह इंगित किया गया है कि कंप्यूटर के उपयोग को जिम्मेदारी से बचने के साधन के रूप में इस्तेमाल किया जाता है। Neil Postman की किताब <i>Technopoly</i> से उद्धृत पंक्ति के माध्यम से समझाया गया है कि कंप्यूटर को मानो वास्तविक प्राधिकरण के स्रोत की तरह दिखाया जाता है, जिससे जिम्मेदारी से बचने की प्रवृत्ति बनती है

  • self-driving cars पर सवाल उठाया गया है। जिम्मेदारी ड्राइवर से निर्माता की ओर चली जाती है, और यह संदेह है कि क्या निर्माता वह जिम्मेदारी लेना भी चाहेंगे

  • यह दावा किया गया है कि chip cards की शुरुआत बैंकों की जिम्मेदारी उपयोगकर्ताओं पर डालने के लिए की गई थी। सुरक्षा बेहतर हुई, लेकिन वास्तव में इरादा credit card fraud की जिम्मेदारी उपयोगकर्ताओं पर डालने का था

  • यह भी जोर देकर कहा गया है कि identity theft भी उसी तरह बैंक fraud है। इसे identity theft कहने से यह बैंक की समस्या के बजाय व्यक्ति की समस्या बन जाती है

  • यह कहा गया है कि कंपनियां जिम्मेदारी से नफरत करती हैं, और वास्तव में हर कोई इससे बचना चाहता है

  • कुछ कंपनियों में ऐसी नीति होती है कि manager निर्णय लेने से बचते हैं, क्योंकि उन्हें उसके लिए जिम्मेदार ठहराया जा सकता है

  • यह इंगित किया गया है कि "जिम्मेदारी" शब्द अब अर्थहीन therapeutic language बन गया है। CEO कहते हैं कि वे जिम्मेदारी लेते हैं, लेकिन वास्तव में उसका कोई परिणाम नहीं निकलता

  • Norbert Wiener की किताब <i>God & Golem Inc.</i> से उद्धृत पंक्ति के जरिए समझाया गया है कि लोग automatic calculator से अधिक सटीक गणना नहीं, बल्कि ऐसी डिब्बानुमा चीज चाहते हैं जिस पर जिम्मेदारी डाली जा सके

  • यह तर्क दिया गया है कि कानूनी सिद्धांत के अनुसार operator को जिम्मेदार होना चाहिए। नहीं तो आगजनी रोकने के लिए माचिस पर प्रतिबंध लगाने जैसी स्थिति हो जाएगी

  • यह उल्लेख किया गया है कि "algorithm" से जुड़ी मौजूदा AI लहर से पहले भी ऐसा हो चुका था

  • यह समझाया गया है that digital forensics में इस्तेमाल होने वाला सिद्धांत उल्टे तरीके से लागू होता है। अदालत में digital forensics investigator यह गवाही दे सकता है कि डिवाइस पर क्या किया गया, लेकिन यह नहीं बता सकता कि वह काम किसने किया

  • जब कोई विशेषज्ञ समझाता है कि कंप्यूटर दिखने में बहुत deterministic लगते हैं, लेकिन वास्तव में उनमें uncertainty होती है, तो आम लोग चौंक जाते हैं

  • retail store security alarm बजने पर उस सामाजिक रूप से सामान्यीकृत स्थिति का उल्लेख किया गया है जिसमें कहा जाता है कि कंप्यूटर ने समस्या पैदा की। ऐसा लगता है मानो कंप्यूटर ने गड़बड़ की हो, जबकि वास्तव में ऐसा नहीं होता