लोगों को AI output दिखाना अशिष्टता है

 (distantprovince.by)
5 पॉइंट द्वारा GN⁺ 2025-07-20 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • AI द्वारा जनरेट किए गए टेक्स्ट को बिना सोचे-समझे दूसरे लोगों तक पहुँचाना सामने वाले को भ्रमित करने वाला व्यवहार है
  • पहले लिखे गए टेक्स्ट को मानवीय सोच का प्रमाण माना जाता था, लेकिन AI के विकास के साथ यह भरोसा टूट गया है
  • AI-जनरेटेड कंटेंट का प्रसार तभी स्वीकार्य है जब भेजने वाला पहले उसे स्वयं समझकर अपनी भाषा में बताए, या प्राप्तकर्ता की सहमति हो
  • AI संदेशों का दुरुपयोग प्राप्तकर्ता के लिए बेकार जानकारी की थकान और resource की बर्बादी पैदा करता है
  • AI etiquette का पालन किए बिना AI के जवाब सीधे आगे बढ़ाना सामाजिक रूप से अशिष्ट व्यवहार माना जाता है

उपन्यास Blindsight की पृष्ठभूमि और सिग्नल का अर्थ

  • Peter Watts के SF उपन्यास Blindsight में मुख्य बात यह है कि इंसान बिना चेतना वाली एलियन प्रजाति (scramblers) से सामना करते हैं
  • Scramblers इंसानों से अलग अनावश्यक जानकारी को नापसंद करते हैं, और बेकार सिग्नल ट्रांसमिशन को आक्रामकता मानते हैं
  • जिस तरह इंसान अर्थहीन टेक्स्ट को बेतरतीब फैलाते हैं, उसी तरह जानकारी का दुरुपयोग सामने वाले के resources बरबाद करने वाले हमले के रूप में समझा जा सकता है

Proof-of-thought की अवधारणा

  • अतीत में केवल स्वयं लिखा गया टेक्स्ट ही संचार का माध्यम था, इसलिए कुछ पढ़ना स्वाभाविक रूप से मानवीय सोच के निशान पर भरोसा करना था
  • AI के प्रसार के कारण टेक्स्ट, कोड, इमेज, वीडियो जैसी हर तरह की मीडिया बहुत आसानी से बड़े पैमाने पर बनने लगी, और उनकी सामग्री से मानवीय सोच का प्रमाण (Proof-of-thought) गायब हो गया
  • अब अगर कोई भी AI के output को फिर से भेज दे, तो प्राप्तकर्ता का कीमती समय अर्थहीन जानकारी में बर्बाद होने का खतरा रहता है
  • AI मूलतः केवल अनुरोध पर प्रतिक्रिया देते समय ही जवाब देता है, इसलिए जब तक इंसान न कहे, AI अपने-आप सूचना की बाढ़ नहीं लाता
  • आखिरकार समस्या की जड़ AI नहीं, बल्कि AI output का बिना सोचे-समझे उपयोग और प्रसार करने वाले इंसान हैं

AI etiquette की ज़रूरत

  • AI के output को ज्यों का त्यों किसी दूसरे व्यक्ति को भेजते समय आपसी समझ या स्पष्ट सहमति ज़रूरी है
  • अगर कोई किसी से सीधे कहे, "मैंने ChatGPT से पूछा, तो यह जवाब मिला", तो सामने वाले को यह अशिष्ट लग सकता है
  • अपनी राय या निर्णय के बिना केवल AI का जवाब आगे बढ़ाना, सामने वाले के लिए असुविधा और information pollution पैदा करता है
  • उदाहरण के लिए, "मुझे ChatGPT से यह जवाब मिला; अगर आप चाहें तो मैं बातचीत का लॉग दिखा सकता हूँ" कहने से सामने वाले के पास विकल्प रहता है
  • जब आप अपने काम का review करवाना चाहते हैं, तो "यह AI ने अपने-आप बनाया है, आप ही देख लीजिए" कहने के बजाय, खुद जाँचकर उसका सार भेजने का रवैया अपेक्षित है

निष्कर्ष: AI output फैलाते समय सावधानियाँ

  • Scramblers के विपरीत, इंसान पूरी तरह अर्थहीन सिग्नल को निष्क्रिय रूप से नहीं लेते, बल्कि चुनकर स्वीकार करते हैं
  • AI etiquette का पालन करना और AI-जनरेटेड टेक्स्ट को सीधे आगे न बढ़ाना शिष्टाचार है
  • AI output का उपयोग करते हुए भी, पाने वाले के समय और ध्यान का सम्मान करने वाला रवैया हमेशा ज़रूरी है
  • AI से बने नतीजों को ज्यों का त्यों भेजने से पहले, प्राप्तकर्ता की सहमति लेने की आदत महत्वपूर्ण है
  • AI द्वारा जनरेट किए गए 'noise' की बाढ़ के बीच ज़िम्मेदारी से जानकारी अपनाने और खुद फ़िल्टर करने की क्षमता सामाजिक शिष्टाचार का हिस्सा बननी चाहिए

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2025-07-20
Hacker News राय

  • काश कुछ सहकर्मी ईमेल या Teams संदेश LLM से लिखना बंद कर दें; ऐसे संदेश इतने बेजान लगते हैं कि अब उन्हें पढ़ने का भी मन नहीं करता

    • कभी-कभी सहकर्मी गलती से AI के साथ हुई बातचीत का हिस्सा ज्यों का त्यों छोड़ देते हैं, और यह तुरंत साफ दिख जाता है। हाल ही में मिले एक ईमेल के नीचे यह पंक्ति लगी थी: "क्या मैं इसे Outlook में format कर दूँ, या किसी खास channel या distribution list पर पोस्ट करने में मदद करूँ?"
    • ऐसे मामलों में मैंने सीधे यह कहकर अनुरोध किया है: "लगता है कि आपके कुछ संदेश LLM से जनरेट किए गए हैं। सही grammar और style रखने की कोशिश की मैं कद्र करता हूँ, लेकिन कभी-कभार टाइपो या थोड़ी अनगढ़ भाषा होना, अर्थ बिगड़ जाने या संदर्भ खो जाने से कहीं बेहतर है। आगे से कृपया सीधे खुद लिखकर भेजें। internal communication में capital letters न होना या बोलचाल की भाषा होना मुझे बिल्कुल परेशान नहीं करता।"
    • जिन लोगों को disability की वजह से लिखने में कठिनाई होती है, वे AI की मदद से अपने विचार पहले से बेहतर ढंग से व्यक्त कर पा रहे हैं। भले यह इस स्थिति पर सीधे लागू न हो, लेकिन इस पहलू पर भी साथ में विचार करना चाहिए
    • इस मामले में LinkedIn सबसे बुरा है। पहले से ही वह “corporate/professional शोर” से भरा हुआ था, और अब interface में AI-generated replies को खुलकर recommend करता है। मेरे हिसाब से यह सबसे खराब social network है। उदाहरण: "वाकई insightful! आपने रोज़मर्रा के काम को एक transformative branding opportunity में बदल दिया—आप सचमुच self-promotion के उस्ताद हैं!"
    • मैंने यह feedback सीधे एक सहकर्मी को दिया था। मेरा एक direct report AI Slop (बिना मेहनत का AI जवाब) से प्रतिक्रिया देने लगा, तो मैंने पूछा, "क्या यह तुमने खुद लिखा है?" उसने कहा नहीं, तो मैंने साफ कहा, "इससे ऐसा लगता है जैसे तुमने मेरी बात सुनी ही नहीं।" अच्छी बात यह रही कि उसके बाद उसने ऐसा नहीं किया। आगे चलकर model जितने smarter होंगे, यह पहचानना उतना कठिन होगा, लेकिन आखिरकार नुकसान उन्हीं लोगों का होगा जो बिना सोचे AI जोड़कर चीज़ें भेजते रहेंगे। (South Park episode की तरह) वे ऐसे commit में फँस सकते हैं जिन्हें वे खुद समझते भी न हों, और फिर उसकी जिम्मेदारी भी उन्हें ही उठानी पड़े

  • किसी से सवाल पूछने का मकसद सिर्फ तकनीकी जवाब लेना नहीं होता; असल मायने यह हैं कि सामने वाले के अप्रत्याशित विचार सुनें, जुड़ाव महसूस करें, या collaboration की शुरुआत का बिंदु मिले। असली इंसानी बातचीत में कई रास्ते और विचारों की शाखाएँ निकलती हैं, जबकि AI बस निर्जीव लगता है। अगर कोई मुझे AI से बना जवाब copy-paste करके दे, तो मैं इसे ऐसे लेता हूँ कि उस व्यक्ति को मुझमें कोई दिलचस्पी ही नहीं है। ऐसे व्यक्ति से मैं बातचीत नहीं करना चाहता

    • बातचीत के स्तर पर यह लगभग "Google पर खोज लिया होता" जैसा ही महसूस होता है

  • मैंने एक बार ऐसा PR देखा जिस पर स्लोगन था: "15 मिनट में भावनाओं में आकर लिखा PR, review चाहिए।" लेकिन असल में PR लिखने वाला व्यक्ति ऐसी पंक्ति भी नहीं छोड़ता, और reviewer सीधे पूछे तब भी मानता नहीं। मेरे review comments सीधे AI को दे दिए जाते हैं, फिर 10 मिनट बाद एक और अजीब तरीके से बदला हुआ PR आ जाता है, और मेरा मुख्य feedback शामिल भी नहीं होता। काश मैं सीधे AI से ही बात कर पाता। (वैसे, अभी मेरे पास PR को ignore या close करने का अधिकार भी नहीं है)

    • PR को ignore या close करने के बजाय बातचीत शुरू करनी चाहिए। AI इंसान नहीं है, और अगर कोई bug या quality problem वाला code submit करता है, तो उसकी जिम्मेदारी आखिरकार submit करने वाले इंसान पर ही आती है—यह बात समझाना ज़रूरी है। और अगर कोई खुद review किए बिना सिर्फ AI output आगे बढ़ाने वाला है, तो वह व्यक्ति खुद कोई value add नहीं कर रहा। अगर आपके आसपास लोग सिर्फ AI Slop आगे भेज रहे हैं, तो इसे mentoring का मौका समझना चाहिए; उन्हें सही दिशा दिखाना पूरे industry की quality बेहतर करने का अवसर हो सकता है। मुझे पूरा भरोसा है कि आगे चलकर critical thinking, debugging, और business context को जोड़ पाने वाले लोग ही वास्तव में competitive होंगे, और बाकी लोग धीरे-धीरे पीछे छूट जाएँगे
    • मुझे लगता है कि असलियत इससे भी ज्यादा निराशाजनक है। review process पूरी तरह AI को सौंप देना, अंततः आपकी अपनी क्षमता के आकलन को भी नुकसान पहुँचा सकता है। सोचता हूँ कि performance review में इसके लिए अंक काटने चाहिए या नहीं
    • भरोसा धीरे-धीरे बनता है और एक पल में टूट जाता है। अगर कोई बिना पहले से सहमति लिए मुझ पर AI से बने घटिया PR का review बार-बार थोपता रहे, तो मैं उसके अगले PR review नहीं करूँगा
    • यह स्थिति बहुत खराब है, सच में नर्क जैसे कामकाजी माहौल जैसी लगती है
    • ऐसे समय में सीधे manager तक बात पहुँचाना भी एक तरीका है

  • "लिखना, पढ़ने से कहीं अधिक महँगा काम हुआ करता था"—इस बात से मैं गहराई से सहमत हूँ। LLM के बाद यह समीकरण उलट गया है, और मेरे मामले में खासकर code review में लगने वाला समय बहुत बढ़ गया है। अब ऐसा माहौल है जहाँ लेखक और reviewer दोनों code change के बारे में लगभग समान स्तर की समझ रखते हैं, इसलिए PR का और अधिक स्पष्ट लिखा होना महत्वपूर्ण हो गया है। इस बदलाव के छिपे हुए प्रभावों को लेकर भी जिज्ञासा है

    • पहले किसी दृश्य को बनाना, उसे वास्तव में देखने से कहीं ज्यादा समय लेने वाला काम था, लेकिन आज दोनों में लगभग समान प्रयास लगता है। मानवता ऐसे बदलावों के साथ अच्छी तरह ढलती रही है, और मैं तस्वीरों वाली दुनिया में जीकर खुश हूँ। आगे चलकर बिना स्पष्ट घोषणा वाले AI-generated सामग्री, और बिना ठीक से verify किए गए content के प्रति एक मजबूत नकारात्मक धारणा स्वाभाविक रूप से बन जाएगी—मुझे ऐसा लगता है

  • आजकल किसी का ChatGPT के साथ हुई बातचीत सुनाना "कल रात मैंने जो सपना देखा" जैसी नई किस्म की बातचीत बन गया है (थोड़ी अफसोस की बात यह है कि वास्तव में कहने को बहुत कुछ होता है, फिर भी ऐसी बातचीतें ठीक से हो नहीं पातीं)

    • AI के साथ हुई बातचीत के बारे में यह कहना कि "मुझे ऐसा अनुभव हुआ, यह बात दिलचस्प लगी, और इसका मुझ पर यह असर पड़ा"—यह पूरी तरह मानवीय और सार्थक है। लेकिन बातचीत का transcript ज्यों का त्यों आगे भेजना ऐसे लगता है जैसे, "मैंने input दे दिया, अब तुम इस output को समझो और कुछ करो।" मैं भी कभी-कभी Claude या ChatGPT से हुई बातचीत से जो महसूस करता हूँ, उसे दोस्तों या partner के साथ साझा करता हूँ, लेकिन transcript पूरा का पूरा साझा नहीं करता
    • सपनों की बातें कम से कम मेरे अपने दिमाग की उपज होती हैं, लेकिन ChatGPT उन अनगिनत internet users के “brined” दिमागों की तत्काल संघटनात्मक प्रतिक्रिया जैसा है, जो prompt देखकर कुछ बना देते हैं। यह पूरी तरह अलग तरह का परिणाम है
    • मेरा भी ऐसा ही प्रभाव रहा है। जिसने अनुभव किया, उसके लिए यह दिलचस्प हो सकता है, लेकिन सुनने वाले के लिए ज़्यादा रोचक नहीं होता। कभी-कभी दूसरे के दिमाग में हल्की-सी झलक मिलना ताज़गीभरा लग सकता है, लेकिन सामग्री खुद इतनी महत्वपूर्ण नहीं होती। सपने और AI जवाब दोनों अपने मूल में "hallucinatory quality" रखते हैं—यानी उनमें ठोस substance की कमी होती है। आखिरकार असल बात communication की प्रकृति है
    • बल्कि यह कुछ ऐसा लगता है जैसे "किसी नशे में धुत चाचा से पूछा हो, और जवाब बहुत आत्मविश्वास से भरा आया हो"

  • अगर किसी ने AI से जनरेट किया हुआ परिणाम आगे भेजा है, तो उसे यह बात साफ-साफ बतानी चाहिए। quality खराब हो तो सिर्फ यह कहना कि AI इस्तेमाल हुआ था, कोई छूट नहीं देता; सभी sources बताना महत्वपूर्ण है। अगर आप AI-generated content पाना ही नहीं चाहते, तो source disclosure की वजह से उसे पहले ही छाँटा जा सकता है

  • हाल ही में मेरा सामना एक गैर-विशेषज्ञ से हुआ, जिसने मेरे तकनीकी मत का विरोध करने के लिए ChatGPT का screenshot (free version) ईमेल में संलग्न किया। LLM का उत्तर पूरी तरह गलत नहीं था, लेकिन वह सतही अलंकारिक भाषा में लिपटा हुआ था, और सामने वाले के पास उस जवाब के मूल अर्थ को वास्तव में समझने की क्षमता नहीं थी

  • इस विषय से जुड़ा हुआ, मुझे तो लगता है कि prompt खुद पढ़ना ही बेहतर है https://news.ycombinator.com/item?id=43888803

    • मेरा रुख यह है:
      • सहमत
      • लेकिन लोग आम तौर पर गद्य/वाक्य चाहते हैं, bullets नहीं पसंद करते
      • यह cultural difference का मामला है

  • किसी को ChatGPT की मदद से बहस करते देखना दिलचस्प लगता है। जो व्यक्ति खुद अपने हाथ से लिखता है, उसकी तुलना में बार-बार यह सामने आता है कि गहराई कम है और बात सिर्फ सतह पर रह जाती है। ऐसी बातचीत में न मेहनत दिखती है, न ईमानदारी, इसलिए मैं उसे तुरंत रोक देता हूँ

    • मेरा मानना है कि AI का इस्तेमाल न करने वाला पीछे नहीं रह जाता; बल्कि सिर्फ AI पर निर्भर रहने वाला व्यक्ति ही अप्रासंगिक हो जाता है। (Roko's Reverse Basilisk?)

  • हाल ही में एक online shopping mall में मेरा बुरा अनुभव हुआ, तो मैंने support team को ईमेल भेजकर लिखा, "कंपनी मुझे पसंद है, लेकिन यह अनुभव असुविधाजनक था।" जवाब में एक "AI Agent Bot" ने ढेर सारी मीठी-मीठी भाषा में बस इतना कहा कि "कोई कार्रवाई आवश्यक नहीं है और आपका order सामान्य रूप से process हो गया है, इसलिए ticket बंद किया जा रहा है।" ईमेल लिखने में LLM का उपयोग ठीक है, लेकिन customer inquiry को हर हाल में bot से बंद करवाना सचमुच बहुत अभद्र लगा

    • यह कंपनी की अंदरूनी संस्कृति को पूरी तरह उजागर करने वाला उदाहरण है। इससे साफ पढ़ा जा सकता है: "ग्राहक की परवाह करने लायक कोई वजह नहीं है"