AI और ऑटोमेशन की विडंबना – Part 2

 (ufried.com)
3 पॉइंट द्वारा GN⁺ 2025-12-15 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • Lisanne Bainbridge के 1983 के पेपर “The ironies of automation” के दूसरे अध्याय ‘Approaches to solutions’ को केंद्र में रखकर, AI-आधारित ऑटोमेशन पर लागू होने वाली अंतर्दृष्टियों की पड़ताल
  • जब इंसान AI एजेंट द्वारा किए जाने वाले काम की निगरानी करता है, तो तेज़ निर्णय और तनावपूर्ण परिस्थितियों में संज्ञानात्मक सीमाएँ industrial control systems जैसी जोखिम संरचना बनाती हैं
  • मौजूदा LLM-आधारित agent UI/UX त्रुटि पहचान के लिए उपयुक्त नहीं है, और industrial control design principles से सीखने की ज़रूरत है
  • training paradox के कारण, ऑटोमेशन जितना अधिक सफल होता है, मानव पर्यवेक्षक के लिए निरंतर और महँगी training उतनी ही अधिक आवश्यक हो जाती है
  • AI एजेंट के युग में साधारण निगरानी से आगे बढ़कर ‘leadership capability’ की आवश्यकता होती है, और यह मानव-मशीन सहयोग की एक नई संरचना की ओर ले जाता है

AI ऑटोमेशन और मानवीय निर्णय की सीमाएँ

  • industrial control systems में कुछ ही सेकंड के भीतर प्रतिक्रिया देनी पड़ती है, जबकि white-collar work automation में तात्कालिक जोखिम कम हो सकता है, फिर भी तेज़ निर्णय और हस्तक्षेप की आवश्यकता बनी रहती है
    • जब AI अतिमानवीय गति से परिणाम उत्पन्न करता है, तो इंसानों को उन्हें समझने और सत्यापित करने के लिए उसी स्तर के cognitive support की आवश्यकता होती है
    • कंपनियों की efficiency-केंद्रित संस्कृति और stressful environment इंसानों की विश्लेषण क्षमता को कमज़ोर करते हैं, जिससे त्रुटि पहचान और कठिन हो जाती है
  • AI परिणामों की त्रुटियाँ security incidents जैसे गंभीर परिणामों तक ले जा सकती हैं, इसलिए industrial control के समान स्तर की monitoring system design की आवश्यकता है

सबसे खराब UI समस्या

  • Bainbridge का कहना है कि “कम संभावना वाली घटनाओं को तेज़ी से पहचानना हो तो कृत्रिम सहायता की ज़रूरत होती है”
    • इसका अर्थ है कि monitoring fatigue की समस्या को कम करने के लिए चेतावनी प्रणाली को मज़बूत करना आवश्यक है
  • मौजूदा AI agent fleet management तरीका ऐसा अप्रभावी interface है जिसमें इंसानों को सैकड़ों पंक्तियों की योजनाएँ देखनी पड़ती हैं
    • त्रुटियाँ दुर्लभ हो सकती हैं, लेकिन घातक भी हो सकती हैं, इसलिए error detection-केंद्रित UI/UX redesign की आवश्यकता है
    • industrial control systems के visual और alert design principles को लागू करने की ज़रूरत है

training paradox

  • Bainbridge ने manual skills को बनाए रखने के महत्व पर ज़ोर दिया और कहा कि इंसानों को नियमित रूप से सिस्टम को सीधे संचालित करना चाहिए
    • ऑटोमेशन जितना बढ़ता है, इंसानी कौशल में गिरावट उतनी ही तेज़ी से आती है
  • simulator training में अप्रत्याशित त्रुटि स्थितियों को पुनःनिर्मित करना कठिन होता है, इसलिए सामान्य रणनीतियों पर केंद्रित training की आवश्यकता है
  • “ऐसे इंसानों से बुद्धिमत्ता की अपेक्षा करना, जिन्हें केवल निर्देश मानने के लिए प्रशिक्षित किया गया हो, अपने आप में विडंबना है” — इस पंक्ति की तरह, AI पर्यवेक्षकों को भी अपवादपूर्ण परिस्थितियों से निपटने की क्षमता का लगातार प्रशिक्षण देना होगा
    • ऑटोमेशन जितना सफल होता है, मानव training की लागत उतनी बढ़ती है, और केवल लागत-कटौती के तर्क से इसका समाधान संभव नहीं

leadership dilemma

  • AI एजेंट की निगरानी सिर्फ देखरेख नहीं, बल्कि निर्देशन, समन्वय और feedback के माध्यम से leadership की भूमिका है
    • इंसानों को सीधे काम करने के बजाय अप्रत्यक्ष परिणाम प्रबंधन करना होगा, और इसके लिए काम करने के तरीके में नया बदलाव चाहिए
  • अधिकांश practitioner leadership training के बिना एजेंट्स को प्रबंधित करेंगे, और “prompt बेहतर लिखो” जैसी सलाह पर्याप्त नहीं है
    • AI leadership education की आवश्यकता है, और इसकी संरचना पारंपरिक human leadership training जैसी है
  • भविष्य में एजेंट्स के पर्याप्त परिष्कृत होने तक supervisors के लिए leadership capability को मज़बूत करना अनिवार्य है

निष्कर्ष: ऑटोमेशन की असली विडंबना

  • Bainbridge के निष्कर्ष की तरह, समय के दबाव के बिना इंसान उत्कृष्ट समस्या-समाधानकर्ता होते हैं, लेकिन दबाव में उनकी दक्षता तेज़ी से गिरती है
  • ऑटोमेशन इंसानों की कठिनाइयों को हटाता नहीं, बल्कि उलटे और अधिक तकनीकी परिष्कार तथा मानवीय क्षमता में निवेश की माँग करता है
  • 40 साल पहले की यह अंतर्दृष्टि AI एजेंट के युग में भी अब तक प्रासंगिक है, और मानव-मशीन सहयोग के संतुलन को फिर से परिभाषित करने की ज़रूरत है
  • AI ऑटोमेशन की प्रगति तकनीक से अधिक, इंसानी भूमिका के पुनर्रचना पर निर्भर है

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2025-12-15
Hacker News की राय

  • लेखक ने 1983 के Bainbridge पेपर का जो सारांश दिया है, वह मुझे सचमुच बहुत पसंद आया
    मैंने industrial automation की ‘विडंबना’ को AI agents पर लागू करने की कोशिश की थी, लेकिन इसे इतना साफ़ ढंग से नहीं समझा पाया
    पेपर खुद छोटा है, लेकिन बहुत सघन है और पढ़ने में कठिन है; मूल PDF साथ लेकर पढ़ना सार्थक है
    खासकर यह वाक्य कि “आज की automation systems, अतीत के manual workers की skills पर खड़ी हैं” सबसे अहम है
    यानी AI का अच्छी तरह उपयोग करने के लिए skilled programmers चाहिए, लेकिन वह skill पाने के लिए खुद programming करनी पड़ती है — यही पहली विडंबना है
    यह अंतर्दृष्टि से भरा लेख है, ज़ोरदार सिफारिश है

    • मुझे लगता है कि पेपर में जितना कहा गया था, आज स्थिति उससे भी अधिक गंभीर है
      art और writing जैसे cultural outputs मूलतः problem solving नहीं, बल्कि expression की क्रियाएँ हैं
      लेकिन AI जब ऐसे data को training में इस्तेमाल करता है, तो वह creators की मेहनत और compensation को replace करता है, और साथ ही training data के ‘commons’ को भी दूषित कर रहा है
      अंततः या तो creators को लागत/भुगतान देना पड़ेगा, या फिर models धीरे-धीरे आधुनिक सांस्कृतिक वास्तविकता से दूर होते जाएँगे
      अभी हम बस उस चक्राकार समस्या के परिणाम सामने आने का इंतज़ार कर रहे हैं
    • मेरा मानना है कि programmers को AI संभालने से पहले हाथ से software बनाना सीखना चाहिए
      उसके बाद भी skill बनाए रखने के लिए समय का एक हिस्सा ‘manual projects’ में लगाना चाहिए
      लेकिन तब भी यह सवाल बाकी रहता है कि क्या इससे सचमुच speed बढ़ती है और दुनिया बेहतर होती है
    • आर्थिक नज़रिए से देखें तो अभी यह कुछ बिना असली लाभ वाली चढ़ाई जैसा लगता है
      LLM शानदार स्तर तक पहुँच चुके हैं, लेकिन नई abstraction या paradigm बनाने के बजाय बस अच्छी तरह तैयार किए गए byproducts पैदा कर रहे हैं
      इसलिए इंसानों को नई methodologies बनाने की ज़रूरत कम महसूस होती है
      हो सकता है कभी reasoning LLMs इस समस्या को हल कर दें
    • लेखक का निष्कर्ष आज और भी ज़्यादा प्रासंगिक लगता है
      AI automation इंसानी कठिनाइयाँ खत्म नहीं करती, बल्कि उन्हें कहीं और खिसका देती है
      बल्कि उन्हें कम दिखाई देने वाला बनाती है और जोखिम बढ़ाती है
      अंत में, इंसानी दखल के बाद भी बहुत post-adjustment की ज़रूरत पड़ती है
    • अभी हम पहले से ही Bainbridge द्वारा बताए गए ‘आने वाली पीढ़ी’ वाले बिंदु पर हैं
      अतीत के manual workers retire हो चुके हैं, और आज के factory operators के पास manual operation का अनुभव नहीं है
      इसके बजाय उनके पास ‘machine खराब होने पर क्या करना है’ जैसी skills हैं
      कई systems में पूरी तरह manual operation संभव नहीं है, लेकिन factory automation अब भी सफल है, और इसकी वजह से products सस्ते और भरपूर हुए हैं

  • लेख AI agents के उपयोग के समय पैदा होने वाली दो समस्याओं पर बात करता है
    पहली, जब agent गलती करे तो human experts को तुरंत हस्तक्षेप करना चाहिए, लेकिन सीधे काम न करने के कारण expertise का क्षरण तेज़ होता है
    दूसरी, experts को agent systems के manager बनना पड़ता है, लेकिन यह अपरिचित भूमिका होने से वे काम से अलगाव महसूस करते हैं
    नतीजतन automation efficiency बढ़ाती है, लेकिन human intervention को और कठिन बनाती है; पूर्ण replacement के बजाय यह complexity बढ़ाती है

    • मुझे लगता है यह समस्या नई नहीं है
      मैंने पहले Excel reports को PowerBI से automate किया था, लेकिन कई महीनों तक नतीजे गलत रहे
      automation होने पर verification की instinct गायब हो गई, और errors को trace करना बहुत कठिन हो गया
      इसलिए automation करते समय verification routines को ज़रूर बचाकर रखना चाहिए — इस पर ज़ोर है
    • इससे आज की पीढ़ी के skill सीखने का तरीका याद आता है
      touchscreen generation इन्हें बिना समस्या इस्तेमाल कर लेती है, लेकिन कुछ गड़बड़ हो जाए तो पुरानी पीढ़ी कहीं अधिक सक्षम होती है
      AI भी ऐसा ही है; अगर यह perfect नहीं है, तो अंततः experts का हस्तक्षेप ज़रूरी होगा
      बस वह भूमिका शायद car mechanic की तरह कभी-कभार सामने आने वाली होगी
    • मैं पहले एक welding factory में एकमात्र certified welder के रूप में काम करता था
      automation आगे बढ़ने पर भी इंसानी skill की ज़रूरत बनी रही
    • जितनी कम बार failure होता है, उतना ही उसे ढूँढना इंसान के लिए उबाऊ हो जाता है
      AI ज़्यादातर ठीक-ठाक plans देता है, लेकिन कभी-कभी घातक त्रुटि भी शामिल कर देता है, और उसे पकड़ना इंसान का काम होता है
    • automation काम कम करती है, लेकिन complexity बढ़ाती है
      फिर कोई दूसरी automation उसे ढक देती है, और उसके ऊपर फिर एक और automation आ जाती है
      इस चक्रीय ढाँचे को देखकर लगता है कि Marx की Capital फिर से पढ़नी चाहिए

  • यह लेख उस बात की याद दिलाता है कि “calculator तेज़ और accurate होता है, लेकिन हमें फिर भी mathematics के principles सीखने चाहिए”
    programming automation साधारण calculator की तुलना में कहीं अधिक critical path पर है, इसलिए skill degradation का जोखिम बड़ा है

    • calculator और AI की तुलना ठीक नहीं लगती
      AI problem छोड़ता नहीं, इसलिए experts की ज़रूरत हमेशा बनी रहती है
    • calculator सिर्फ calculation करता है, सोच की जगह नहीं लेता
      असली बात यह जानना है कि कौन-से numbers की गणना करनी है
    • पीढ़ी-दर-पीढ़ी programming skills का क्षरण पहले से चल रहा है
      युवा developers बुनियादी routines भी खुद नहीं लिख पाते, और C drivers संभाल सकने वाले लोग भी लगभग नहीं बचे

  • लेख दिलचस्प है, लेकिन यह खटकता है कि व्यवहार में programmers को सिर्फ AI की गलतियाँ पकड़ने वाले लोगों की तरह देखा जा रहा है
    असल में आज भी अधिकतर समय AI को program करने में जाता है
    AI को यह नहीं पता कि क्या बनाया जाना चाहिए, या कब किसी मौजूदा चीज़ को बदला जाना चाहिए
    इसलिए manufacturing से अलग, programming में अब भी इंसानों को production pipeline design करनी पड़ती है

  • aviation industry लंबे समय से automation की इस विडंबना से जूझ रही है
    autopilot अधिकांश उड़ान करता है, लेकिन pilots हर महीने manual landing की training लेते हैं
    इसी वजह से वे skill बनाए रखते हुए automation के लाभ भी ले पाते हैं

    • लेकिन aviation में regulation और safety incentives इतने मजबूत हैं कि हज़ारों घंटे की manual training संभव है
      दूसरी ओर software industry में short-term productivity प्राथमिकता है, इसलिए ऐसी training को बढ़ावा नहीं मिलता
      मैं व्यक्तिगत रूप से manual coding जारी रखने की योजना रखता हूँ, लेकिन पूरे industry का ऐसा करना मुश्किल है
      और वैसे, aviation में भी यह समस्या अब तक बनी हुई है — इसका प्रतिनिधि उदाहरण Air France Flight 447 crash है
      संबंधित लेख: The Long Way Down – Air France Flight 447

  • Bainbridge पेपर भी रोचक है, लेकिन बाद में आया “Children of the Magenta” व्याख्यान अधिक व्यावहारिक है
    YouTube वीडियो में pilots की automation training पर चर्चा है
    modern fighter jets (F-22, F-35 आदि) को उड़ाने से अधिक combat execution पर ध्यान देने के लिए डिज़ाइन किया गया है
    पहले landing training ही ज़्यादातर होती थी, लेकिन अब computer assistance से वह स्थिर हो गई है, इसलिए pilots strategic judgment पर ध्यान देते हैं
    programming में भी इसी तरह, जैसे-जैसे AI आगे बढ़ेगा, इंसान tactical problem analysis पर अधिक समय लगाएगा

  • अगर AI coding assistants को कारों के SAE automation levels से तुलना करें तो समझना आसान होता है
    अभी यह Level 2~3 के आसपास है, जहाँ इंसान की supervision और responsibility अब भी ज़रूरी है
    full automation (Level 5) तक पहुँचने से पहले यही संक्रमणकाल सबसे जोखिमभरा है
    अंततः competitive pressure के कारण सबको Level 4 या उससे ऊपर जाना होगा, नहीं तो वे बाहर हो जाएँगे

  • “Leadership role देने से पहले पर्याप्त leadership training दी जाती है” — इस बात पर मुझे संदेह है
    वास्तविकता में ऐसा बहुत कम होता है

  • मैं भी skill degradation महसूस कर रहा हूँ
    मेरी पहली प्रतिक्रिया LLM का उपयोग करना होती है, इसलिए यह समय कुछ वैसा हो गया है जैसे exercise या diet management में सचेत आत्म-संयम चाहिए
    केवल कुछ लोग ही इस संतुलन को ठीक से बनाए रख पाएँगे

    • मैं coding में LLM का उपयोग करता हूँ, लेकिन जब code का अर्थ समझना होता है तब इसका उपयोग नहीं करता
      यह self-control का नहीं, बल्कि न्यूनतम समझ की रेखा बचाए रखने का मामला है
    • यह तो बस तत्काल इनाम की लत जैसा सुनाई देता है
    • मैंने 6 महीने से code नहीं लिखा, लेकिन अब भी 1980s का 6502 machine code याद है

  • “अगर ठीक नहीं चल रहा, तो prompt और बेहतर लिखना चाहिए” — यह वाक्य अब बहुत परिचित लगने लगा है
    यही आज की AI users पर ज़िम्मेदारी डालने वाली मानसिकता को दिखाता है