हमारे कार्यस्थल का LLM सामूहिक भ्रम

 (blog.avas.space)
5 पॉइंट द्वारा GN⁺ 4 시간 전 | 3 टिप्पणियां | WhatsApp पर शेयर करें
  • फंड की कमी से जूझ रहे कार्यस्थल में मुख्य कामकाजी बजट काटे जा रहे थे, फिर भी AI adoption पर पैसा बहने की विरोधाभासी स्थिति का प्रत्यक्ष अनुभव दर्ज किया गया है
  • कई वर्षों तक बोनस रद्द रहे और staffing, लाइसेंस, database घटाए गए, लेकिन consultant, LLM workshop, ChatGPT·Copilot लाइसेंस के खर्च तुरंत मंजूर हो गए
  • सैकड़ों लोगों की भागीदारी वाली पूरे संगठन की बैठकों में अलग-अलग टीमों ने LLM प्रोजेक्ट आज़माए, लेकिन एक भी सफल नहीं हुआ
  • प्रस्तुत किए गए सामान्य use case बॉट से उसका मूड पूछने, 1-पेज lunch menu का सार, संदिग्ध ईमेल को ChatGPT पर अपलोड करने जैसे निरर्थक या जोखिमपूर्ण स्तर तक सीमित रहे
  • इस स्थिति को नियंत्रण से बाहर सामूहिक भ्रम कहा गया है, और इसे भरोसे के टूटने का वह क्षण बताया गया है जब साफ हुआ कि नेतृत्व चाहे तो जो काम संभव थे, उन्हें अब तक जानबूझकर रोके रखा गया था

विरोधाभासी वित्तीय स्थिति और AI adoption की पृष्ठभूमि

  • नियोक्ता लंबे समय से फंड की कमी में है, और खाली पद भरे बिना ही गायब कर दिए जाते हैं
    • 2 साल पहले उत्कृष्ट कर्मचारियों के बोनस स्थायी रूप से रद्द कर दिए गए
    • जरूरी संसाधन घटा दिए गए और सिर्फ इतना कहा गया, "जैसे-तैसे संभाल लो"
    • कई विभाग बिना नई भर्ती के overwork की स्थिति में हैं, और cost cutting के लिए महत्वपूर्ण लाइसेंस और database हटा दिए गए
  • लेकिन इसी पृष्ठभूमि में AI से जुड़े खर्च अपवाद की तरह मंजूर किए गए
    • "पूरी तरह झोंक दो" की सलाह देने वाले consultant की hiring के लिए फंड मिल गया
    • कई वर्षों के external LLM workshop·seminar के लिए फंड मिल गया
    • ChatGPT और Copilot दोनों के लाइसेंस के लिए फंड मिल गया
  • लेखक का कहना है कि कर्मचारियों के बोनस और कामकाजी सहायता के पैसे ठगों, security risk, बेकार workshop और tech fascist लोगों की ओर बहाए जा रहे हैं

पूरे संगठन के LLM प्रोजेक्ट्स की पूर्ण विफलता

  • विभागवार LLM प्रोजेक्ट दर्ज कर, pilot चलाकर, फिर नतीजे पेश करने वाली दोहराई जाने वाली बैठकें चलती रहीं
  • सभी बैठकों में शामिल होने के बावजूद वास्तव में सफल एक भी उदाहरण नहीं था
    • सैकड़ों लोग, कई टीमें, AI को लेकर उत्साही लोग, और हर तरह के प्रोजेक्ट आज़माए गए
    • हर प्रोजेक्ट का नतीजा यही रहा: "काम नहीं करता", "समय नहीं बचता", "उल्टा ज्यादा जटिल हो जाता है"
  • workshop, "prompt engineering", custom GPT, पहले से तैयार दस्तावेज़ और template होने के बाद भी दोहराए जा सकने वाले परिणाम नहीं मिले (यह coding का क्षेत्र नहीं था)
    • हर बार यह गड़बड़ जुआ साबित हुआ, और fine-tuning, iteration, output verification, error correction में काफी समय लगा
    • कुछ दस्तावेज़ शामिल न होना, hallucination, और दस्तावेज़ों को सही तरह भर या संपादित न कर पाने की समस्या सबसे बड़ी शिकायत रहीं
    • Enterprise लाइसेंस में भी सीमाएँ बहुत अधिक थीं

निरर्थक सामान्य use case डेमो

  • किसी खास प्रोजेक्ट से अलग रोजमर्रा के काम के लिए सामान्य use case दिखाने वाली अलग बैठकें भी थीं
  • बॉट से "आज तुम्हारा मूड कैसा है?" पूछने वाले फीचर का गंभीरता से डेमो किया गया
    • यह मजाक या व्यंग्य नहीं था, बल्कि इसे भविष्यवादी और मानवीय बताया गया
    • लेखक ज़ोर देकर कहता है कि अगर 5 साल पहले कोई हज़ारों डॉलर की subscription देकर बॉट से बेकार बातचीत करने का प्रस्ताव रखता, तो उसका मजाक उड़ाया जाता, और वह प्रतिक्रिया आज भी सही है
  • intranet पर मौजूद 1-पेज cafeteria menu (Excel sheet) को ChatGPT पर अपलोड कर यह पूछने का डेमो दिया गया कि "बुधवार के lunch में क्या है"
    • बॉट का जवाब पूरी sheet पढ़ने से भी लंबा था
    • डाउनलोड, अपलोड और prompt लिखने में sheet सीधे पढ़ने से ज्यादा समय लगा
    • एक नज़र में समझ आने वाली जानकारी के लिए बॉट की कोई जरूरत नहीं थी
  • IT प्रमुख द्वारा सीधे सुझाए गए उदाहरण में कहा गया कि spam, phishing, या संदिग्ध attachment वाले ईमेल को desktop पर save करके ChatGPT पर अपलोड कर जाँचो
    • लेखक ने बताया कि यह तकनीक से कम परिचित कर्मचारियों को संदिग्ध फाइलें काम के laptop पर save करने जैसे जोखिम की ओर धकेलता है

AI द्वारा बढ़ाया गया Dunning-Kruger effect

  • लेखक के अनुसार AI लोगों के Dunning-Kruger effect को बढ़ा देता है, जिससे वे जो भी करते हैं वह ज्यादा बुद्धिमान और जायज़ दिखने लगता है
    • साधारण और बेकार काम करते हुए भी लोग खुद को किसी महत्वपूर्ण और क्रांतिकारी काम में लगा हुआ दिखा सकते हैं
    • तकनीक समर्थक खुद को किसी विशाल क्रांति का हिस्सा मानते हैं और कल्पना करते हैं कि आलोचक एक दिन उनसे माफी मांगेंगे
  • लेखक को चिंता है कि जिम्मेदार और सक्षम लोग भी बिना स्पष्ट कारण AI कंपनियों के प्रचारक बनते जा रहे हैं
    • योग्य लोग मानो डिटर्जेंट की झूठी बिक्री करने वाले door-to-door salesman के स्तर तक गिर जाते हैं

शुद्ध hype और भरोसे का टूटना

  • हल करने के लिए कोई ठोस समस्या नहीं थी, और कर्मचारियों के कम-से-कम 90% ऐसे काम में नहीं थे जहाँ Copilot जैसी चीज़ से लाभ मिले, फिर भी इसे जबरन लागू किया गया
    • जहाँ समस्या नहीं थी वहाँ समस्या गढ़ी गई, और token खर्च कर subscription को जायज़ ठहराने की कोशिशें दोहराई गईं
    • इसे ऊपर वालों को यह दिखाने की कवायद बताया गया कि "कम-से-कम हमने कोशिश तो की"
  • हर उपयोग को "exploration" और "play" कहकर सही ठहराया गया, और समय की बर्बादी, पैसों की बर्बादी, और पीछे की ताकतों के असर को कम करके दिखाया गया
  • AI adoption की रफ्तार पर सवाल उठाया गया
    • जो संगठन हमेशा कहता था कि पैसे नहीं हैं, वहाँ भारी शुरुआती लागत वाली अस्थिर तकनीक तुरंत पास हो गई
    • जो नई तकनीकें आमतौर पर public sector से दूर रहती थीं, इस बार सारा ध्यान इन्हीं पर गया
    • जहाँ बदलाव लागू करने में कई साल से लेकर दशक लग जाते थे, वही संगठन पलक झपकते AI infrastructure और organizational capability ले आया
  • लेखक के अनुसार यह वह "नकाब उतरने का क्षण" था जिसने दिखाया कि संगठन की धीमी गति कोई स्वाभाविक स्थिति नहीं, बल्कि जानबूझकर बनाई गई व्यवस्था थी
    • इससे उजागर हुआ कि बाधाएँ मूलभूत नहीं थीं, बल्कि मनमानी झूठ थीं
    • यह कर्मचारियों के लिए भरोसे को पूरी तरह तोड़ देने वाला क्षण बन गया

आगे की चुनौती

  • लेखक यह मूल प्रश्न उठाता है कि "प्रगति" के नाम पर सम्मानित माने जाने वाले संगठन के वरिष्ठ लोगों द्वारा खुद को शर्मिंदा कर लेने के इस अनुभव को आखिर कैसे भुलाया जाए
  • कई महीनों तक बार-बार ऐसा माहौल बना कि मानो लोगों को gaslighting किया जा रहा हो, जिससे खुद को ही पागल समझने का शक होने लगे
  • लेखक कहता है कि वह इस अनुभव को भूल नहीं सकता और इसे "मेरा दूसरा COVID" कहता है
  • अंत में वह कहता है कि जिन लोगों के कार्यस्थल पर ऐसा नहीं हो रहा, उनके लिए वह सचमुच खुश है, और जो उद्योग व लोग AI का समझदारी से उपयोग कर अच्छे नतीजे ला रहे हैं, उनके लिए तालियाँ हैं
    • लेकिन चूँकि ऐसी स्थितियाँ वास्तव में मौजूद हैं, वह आग्रह करता है कि इस अनुभव को नकारा न जाए, ताकि इस पागलपन पर साथ मिलकर बात की जा सके

संबंधित पढ़ाई

3 टिप्पणियां

 
cnaa97 3 시간 전

नतीजे न भी हों, तब भी क्या यह किसी तरह संगठन को बनाए रखने और जीवित रहने की कोशिश नहीं है...
 
brilliant08 21 분 전

मुझे नहीं लगता कि उस प्रयास को अच्छा प्रयास कहा जा सकता है, अगर उस पर यह आलोचना होने लगे कि "फंडिंग ठगों, सुरक्षा जोखिमों, बेकार वर्कशॉप्स और tech fascists के पास जा रही है"।
 
GN⁺ 4 시간 전
Lobste.rs की राय

  • मेरा कार्यस्थल भी इतना बुरा नहीं है, लेकिन दिशा वही है। नई hiring या वेतनवृद्धि के लिए पैसे नहीं हैं, लेकिन business consultants, बड़े enterprise COTS software licenses, और AI subscriptions के लिए हमेशा पैसे होते हैं

    • लगता है जैसे आप किसी America-आधारित सरकारी संगठन में काम करते हैं। सरकार के अलावा COTS जैसा शब्द कम ही इस्तेमाल होता है
      थोड़ी चुभन भरी बात अलग रखें तो भी, सरकार से कम जड़ संगठनों में भी “चीजें खरीदने” वाले budget को “कर्मचारियों को भुगतान करने” वाले budget से हासिल करना अब भी अक्सर आसान होता है

  • लेखक ने जो वर्णन किया है, वह management के business चलाने में लगभग घातक स्तर की अयोग्यता है
    लेखक को कम अयोग्य management वाली नई नौकरी ढूँढनी चाहिए। अगर वह मुश्किल हो, तो जीवित रहने और मानसिक स्वास्थ्य के लिए दूसरे कदम उठाने चाहिए

    • कुछ महीने पहले मैंने FAANG में काम करने वाले दोस्तों से भी काफ़ी मिलती-जुलती बातें सुनी थीं। उस समय tokenmaxxing ही policy थी
      इसका मतलब यह नहीं कि FAANG घातक अयोग्यता से मुक्त है, बल्कि यह कि “ओह, यह email और lunch menu summarize कर देता है?!” जैसी मानसिकता सोच से कहीं ज़्यादा फैली हुई है

  • मेरा अनुभव कुल मिलाकर थोड़ा ज़्यादा सकारात्मक रहा है

    1. गैर-जिम्मेदाराना तरीके से इस्तेमाल करने पर coding agents codebase को बिगाड़ देते हैं। छोटे one-off prototypes या पूरी तरह बेकार SaaS के विकल्प के रूप में यह ठीक हो सकते हैं, लेकिन गंभीर systems के लिए नहीं। Claude Fable तो बस उससे भी ज़्यादा बड़ा गड़बड़झाला बना देता है
    2. जिम्मेदारी से इस्तेमाल करने के लिए self-discipline और सही लोगों की ज़रूरत होती है, और ऐसे में coding agents मददगार हो सकते हैं। bottleneck अब भी ज़्यादातर इस बात में है कि इंसान code को समझें और stakeholders की अपेक्षाओं के साथ तालमेल बिठाएँ, इसलिए यह उतना transformative नहीं है जितना लोग समझते हैं। फिर भी अगर ये सब पूरी तरह गायब हो जाएँ, तो मुझे थोड़ी कमी महसूस होगी। क्योंकि किसी अजीब vendor API के लिए draft test code खुद लिखने का मन नहीं करता
    3. document data mining के काफ़ी कामों में, अगर error rate स्वीकार्य हो, तो सस्ते और बड़े पैमाने पर चलने वाले LLM का फ़ायदा साफ़ दिखाई देता है
    4. managers को वाजिब कीमत वाले और ठीक से काम करने वाले AI use cases पसंद आते हैं
      लेकिन जब एयरपोर्ट से गुजरते हुए executives को निशाना बनाकर बनाई गई AI ads दिखती हैं, तब लगता है कि बाहर की स्थिति सचमुच गंभीर है
    • कुछ मायनों में यह static types vs dynamic types बहस की याद दिलाता है। सही team और पर्याप्त अनुभव हो, तो Clojure जैसी language के साथ भी बहुत productive हुआ जा सकता है, लेकिन जैसे ही लोग language का दुरुपयोग करने लगते हैं और खुद को ज़्यादा चालाक दिखाने की कोशिश करते हैं, यह एक गैर-रखरखावयोग्य भयानक गड़बड़झाला बन सकता है
      LLM का इस्तेमाल भी उस लिहाज़ से बहुत मिलता-जुलता लगता है। अगर आप समझते हैं कि tool क्या कर सकता है और उसे प्रभावी ढंग से कैसे लागू करना है, तो यह सचमुच समय बचाता है, लेकिन अगर लक्ष्य बस जितनी जल्दी हो सके code उगलवाना है, तो अंत में ऐसा अराजक ढेर बनता है जिसमें घुसना भी मुश्किल हो जाता है