AI हमारी सोच को एकरूप बना रहा है
(newyorker.com)- MIT के एक अध्ययन में ChatGPT का उपयोग करने वाले समूह की मस्तिष्कीय गतिविधि तुलनात्मक रूप से कम पाई गई
- AI का उपयोग रचनात्मकता और विविधता में कमी लाता है और परिणामों में एकरूपता पैदा करता है
- Cornell University के अध्ययन में भी पाया गया कि सांस्कृतिक और व्यक्तिगत अंतर दर्शाने वाली लेखन शैली तक AI के उपयोग पर पश्चिमी और औसत प्रवृत्ति की ओर सिमट जाती है
- AI द्वारा दिए जाने वाले औसत और सुरक्षित उत्तर सांस्कृतिक विविधता और व्यक्तित्व को कमजोर करते हैं
- व्यापक रूप से अपनाए गए AI के दीर्घकालिक प्रभाव अभी पूरी तरह ज्ञात नहीं हैं, लेकिन सोच के सरलीकरण और एकरूपता को बड़ी चिंता के रूप में देखा जा रहा है
प्रयोग और मुख्य निष्कर्ष
- 2023 में MIT ने बॉस्टन के आसपास के 50 से अधिक विश्वविद्यालय छात्रों को तीन समूहों में बांटकर SAT शैली के निबंध लेखन का एक प्रयोग किया
- एक समूह ने केवल अपने दिमाग का उपयोग किया
- दूसरे समूह को Google Search इस्तेमाल करने की अनुमति थी
- तीसरे समूह ने ChatGPT का उपयोग करके निबंध लिखा
- सभी प्रतिभागियों ने brainwave measurement headset पहना था, और विश्लेषण में ChatGPT उपयोग करने वाले समूह की मस्तिष्कीय गतिविधि सबसे कम पाई गई
- इस समूह में मस्तिष्क के विभिन्न हिस्सों के बीच connectivity (alpha और theta waves) में कमी देखी गई
- कुछ उपयोगकर्ताओं ने अपने लिखे निबंध के प्रति स्वामित्व-बोध की कमी दिखाई, और अधिकांश अपने ही लिखे हुए को उद्धृत तक नहीं कर सके
- MIT के शोधकर्ताओं ने इसे AI पर निर्भरता की cognitive cost कहा
AI से पैदा होने वाला सोच का औसतीकरण
- ChatGPT का उपयोग करने वाले समूह के निबंध मिलते-जुलते शब्दों और विचारों की ओर सिमटते दिखे
- खुले जवाब आमंत्रित करने वाले SAT prompts के बावजूद, AI उपयोग करने वाले समूह ने एकरूप तर्क और शब्दावली का उपयोग किया
- उदाहरण के लिए, ‘सच्ची खुशी’ पर जवाब लगभग सभी में करियर और सफलता-केंद्रित थे, और ‘दान की नैतिक जिम्मेदारी’ पर लगभग सभी ने एक जैसी सहमति जताई
- MIT की शोधकर्ता Kosmyna के शब्दों में, “सब कुछ औसत में समेटा जा रहा है” जैसा प्रभाव देखा गया
जनसांस्कृतिक और सांस्कृतिक विविधता का क्षरण
- Cornell के शोधकर्ताओं ने अमेरिका और भारत के उपयोगकर्ताओं पर एक प्रयोग किया, जिसमें दोनों ने अपने-अपने सांस्कृतिक पृष्ठभूमि को दर्शाते हुए लेखन किया
- कुछ प्रतिभागियों ने ChatGPT-सक्षम autocomplete का उपयोग किया, कुछ ने नहीं
- autocomplete उपयोग करने पर प्रतिभागियों का लेखन पश्चिमी और औसत प्रवृत्ति की ओर सिमट गया और एक-दूसरे से अधिक समान हो गया
- भोजन और त्योहारों से जुड़े सवालों में pizza और Christmas बार-बार उत्तर के रूप में आए, जबकि स्थानीय भिन्नता बहुत कम दिखी
- निबंधों का विवरण और भाव-संवेदना तक सामान्य, घिसे-पिटे वाक्यांशों में बदल गए
AI tools के सुझावों का प्रभाव और पहचान का क्षय
- लेखक के अनुसार AI की suggestion feature में लेखक की अपनी आवाज़ को कमजोर करने वाला एक ‘hypnotic effect’ होता है
- लगातार exposure से लेखन में आत्मविश्वास और पहचान दोनों के खोने की आशंका है
- AI के सुझाव केवल उपयोगकर्ता के विचारों को नहीं, बल्कि सोचने के तरीके को भी औसत बनाते हैं
- नतीजतन, “क्या सामान्य है और क्या वांछनीय है” इस बारे में सामाजिक समझ भी बदल सकती है
औद्योगिक प्रेरक तत्व और सांस्कृतिक मानकीकरण
- OpenAI और अन्य AI कंपनियां अपने सिस्टम इस तरह डिजाइन करती हैं कि अधिक से अधिक उपयोगकर्ता सामान्य और औसत परिणामों से संतुष्ट हों
- किसी अधिक व्यापक दर्शक को स्वीकार्य model output देने से अधिक paid users मिल सकते हैं
- efficiency के लिहाज से ‘जब सब कुछ एक जैसा हो’ तब scale की economy हासिल करना आसान होता है
AI और रचनात्मकता: प्रयोगात्मक सीमाएँ
-
OpenAI CEO Sam Altman आदि दावा करते हैं कि AI की मदद से हर कोई creator बन सकता है
-
लेकिन प्रयोगों में पाया गया कि AI उपयोग करने वाला समूह मौलिकता के मामले में उलटे अधिक औसत और समान विचार देता है
- Santa Clara University के एक अध्ययन में ChatGPT की तुलना पारंपरिक creativity tool Oblique Strategies से की गई
- ChatGPT उपयोगकर्ताओं के विचारों में semantic similarity, यानी एकरूपता की प्रवृत्ति, अधिक दिखी
-
विश्लेषक Max Kreminski के अनुसार मानव की मूल सोच धीरे-धीरे AI के औसत मान की ओर खिंच रही है
- जब AI बार-बार बहुत तेजी से “काफी ठीक-ठाक जवाब” देता है, तो उपयोगकर्ता अपने विचार पैदा करने के बजाय AI के परिणामों को छांटने में ज्यादा जुट जाते हैं
- बातचीत लंबी होने पर AI की context window सीमाओं के कारण अधिक दोहरावदार और औसत उत्तर और मजबूत हो जाते हैं
व्यापक AI वातावरण और सूचना की विविधता की कमी
- ज्यादातर अध्ययन अभी छोटे पैमाने के प्रयोग हैं, इसलिए AI के दीर्घकालिक प्रभाव अब भी अज्ञात हैं
- Meta के AI app जैसे प्लेटफॉर्मों पर बड़ी संख्या में लोगों द्वारा बनाया गया हद से ज्यादा चिकना और एकरूप content बड़े पैमाने पर उत्पन्न हो रहा है
- auto-generated emails और रोजमर्रा के अनुरोधों में एक जैसे format और vocabulary की भरमार है
- वास्तविक prompt उदाहरणों में भी AI केवल सकारात्मक भविष्य गिनाता है और नकारात्मक परिदृश्यों या जोखिमों को बाहर कर देता है
- इससे संकेत मिलता है कि AI design process में pro-technology bias परिणामों की विविधता घटा सकती है
निष्कर्ष और आगे की दिशा
- यदि कोई व्यक्ति केवल AI द्वारा दी गई जानकारी पर विश्वास करना चाहता है, तो उसके लिए सोचना बंद करना जरूरी होगा
- AI से उत्पन्न सोच के औसतीकरण और रचनात्मकता के क्षय के प्रति सामाजिक और सांस्कृतिक सतर्कता की आवश्यकता बढ़ रही है
3 टिप्पणियां
मुझे लगता है कि जब इंटरनेट पहली बार आया था तब भी कुछ ऐसी ही चिंताएँ थीं। क्या आलोचनात्मक सोच विकसित करने की क्षमता ज़्यादा महत्वपूर्ण नहीं है?
मुझे लगता है कि इंटरनेट सर्च या YouTube से गलत जानकारी अपनाने से यह बेहतर है। किसी खास समूह के हितों का प्रतिनिधित्व करने के उद्देश्य से पक्षपाती जानकारी स्वीकार करने से तो यह बेहतर ही है। यह कहा जा सकता है कि AI भी पक्षपाती हो सकता है, लेकिन मेरा मानना है कि इंटरनेट पर तैरती हुई यादृच्छिक जानकारियों की औसत विश्वसनीयता से इसकी विश्वसनीयता अधिक है। आलोचनात्मक सोच के बिना गलत जानकारी स्वीकार कर लेने की संभावना के मामले में भी यह काफ़ी समान है।
Hacker News की राय
मेरा मानना है कि आज की असली "digital divide" इस बात पर टिकी है कि पिछले कुछ वर्षों में किसी ने critical thinking पहले ही विकसित कर ली थी या नहीं। जिन लोगों ने विविध पढ़ाई और धैर्यपूर्ण चिंतन के ज़रिए यह क्षमता बनाई है, उनके लिए LLM जैसे tools कच्ची जानकारी के समुद्र में wave runner चलाने की चाबी देने जैसे लगते हैं। लेकिन जिन्हें अभी critical thinking सीखनी है, उनके लिए शायद LLM की आदत डाले बिना चिंतन की कठिनाई को पार करना मुश्किल होगा। अस्पष्टता को खुद झेलना, यानी वह क्षण जब जानकारी ज्ञान में बदलती है, यहाँ तुरंत समाप्त कर दिया जाता है। मुझे लगता है कि 2023 से पहले यह क्षमता हासिल कर लेना सौभाग्य था, लेकिन युवाओं को LLM को बिना शर्त learning tool की तरह दिया जा रहा है, यह थोड़ा डरावना है
यह निराशावाद कि AI सबको बेवकूफ़ बना देगा, दरअसल इस वास्तविकता को बढ़ा-चढ़ाकर देखता है कि अधिकांश लोग पहले से ही बहुत अच्छे critical thinkers नहीं थे। लगभग 20 साल advanced engineering में काम करने के बाद भी, जटिल अवधारणाओं को सच में समझने वाले लोग accomplished experts के बीच भी दुर्लभ थे। जो अधिकांश लोग पहले से critical तरीके से नहीं सोचते थे, उन्हें आसान जवाब मिलने से समझदार लोगों को कोई खास नुकसान होगा, ऐसा नहीं लगता
बचपन के अपने अनुभव से कहूँ तो, जब मैं केवल अल्पकालिक मज़े के पीछे भागता था, तब मैंने कुछ नहीं सीखा
लगता है कि Idiocracy का दौर पास आ रहा है
मेरा मानना है कि हर connecting technology में समानरूपता को बढ़ाने की शक्ति होती है। उदाहरण के लिए, TV क्षेत्रीय बोलियों के मिटने का एक प्रतिनिधि उदाहरण है। असीमित मज़े, मनोरंजन और connectivity की वजह से हम एक उदास, नीरस और अकेली दुनिया बना रहे हैं
यह जानने की जिज्ञासा है कि क्षेत्रीय बोलियाँ खत्म हो गई हैं, इसका आधार क्या है। अमेरिका में अलग-अलग जगह यात्रा करने पर अब भी कई तरह की regional accents सुनाई देती हैं। पश्चिम, मिडवेस्ट, दक्षिण और पूर्व में मेरे रिश्तेदार हैं, और हर क्षेत्र में स्पष्ट accents अब भी मौजूद हैं। तीव्रता अलग हो सकती है, लेकिन वे अभी भी साफ़ हैं
social media पहले ही हमारी सोच को काफी हद तक एकरूप बना चुका है। जब बहुत अधिक जानकारी और नज़रिए एक साथ आ जाते हैं, तो अपने विचार बनाने के बजाय दूसरों के विचारों से प्रेरित हुए बिना रहना मुश्किल हो जाता है। upvote button आसानी से तय कर देता है कि कौन-सा विचार सबकी सहमति वाला है
सोच रहा हूँ कि हम क्या कर सकते हैं। क्या offline clubs[https://www.theoffline-club.com/] जैसी गंभीर कोशिशें इसका antidote बन सकती हैं। इस तरह की चर्चा हाल ही में Hacker News पर भी हुई थी। यानी तथाकथित 'grass touching' technology पर विचार
फिर भी, भौगोलिक परिवेश से मिलने वाली विविधता कुछ अनुभवों को परिभाषित करती है। हाँ, आज की technology के उद्देश्यों में से एक यह भी है कि ऐसे भौगोलिक विशेषताओं को संतुलित या अवरुद्ध किया जाए
AI के मामले में असली समस्या यह है कि इस समानरूपता का प्रबंधन कौन करता है, और किस उद्देश्य से करता है। IRC या messenger जैसी dynamic systems लोगों को स्वाभाविक रूप से जुड़ने और समूह बनाने देती हैं। लेकिन AI पूँजी-संपन्न capitalists द्वारा पूँजी लगाकर बनाया गया एक closed managed tool है, इसलिए business model की रक्षा और risk कम करने के लिए एक तरह की समानरूपता चुपचाप लागू हो जाती है। असली ख़तरा यह है कि वास्तविकता को किसी खास उद्देश्य के अनुरूप 'authored' किया जाने लगे
मेरा मत है कि किसी के विचार तभी एकरूप होते हैं जब वह खुद सोचना बंद कर दे। लगता है कि बहुत लोगों के लिए यह एक कमजोरी हो सकती है
यह अवलोकन है कि "मैं खुद research करता हूँ" कहने वाले लोग विडंबना से अक्सर सबसे गहरे groupthink में फँस जाते हैं
जिन अनेक व्यक्तियों की axiomatic systems समान संरचना वाली होती हैं, वे मिलते-जुलते निष्कर्ष निकालते हैं। कुछ लोग यह मानते हैं कि वे किसी खास वैचारिक समूह का हिस्सा होते हुए भी स्वतंत्र रूप से सोच रहे हैं। कई बार समुदाय के सदस्यों के विचारों को एक जैसा बनाने वाली शक्ति बहुत प्रबल होती है। दूसरी ओर, कुछ लोग अज्ञात meme space में नई strategies या ideas खोजने की 'treasure hunting strategy' अपनाते हैं। लेकिन इस रणनीति की सीमा यह है कि इसमें जोखिम अधिक होता है और कई प्रयास करने लायक संसाधन चाहिए होते हैं
"अगर आप खुद नहीं सोचते तो आप एकरूप हो जाते हैं" इस दावे से सहमत हूँ, और सुझाव दूँगा कि एक बार देखें कि non-technical या technology से बहुत परिचित न होने वाले दोस्त या परिवारजन ChatGPT का इस्तेमाल कैसे करते हैं। वास्तव में काफी चौंकाने वाले उदाहरण मिलते हैं। जो लोग LLM tools को अच्छी तरह नहीं समझते, वे उनका सचमुच खतरनाक ढंग से उपयोग कर रहे हैं। उदाहरण के लिए, एक दोस्त के बहनोई ने ChatGPT से यह सुनकर कि कई penny stocks और कम-ज्ञात cryptocurrencies में भारी मुनाफ़े की गारंटी है, सचमुच निवेश कर दिया। कुछ लोग यह भी मान लेते हैं कि ChatGPT ईश्वर की आवाज़ पहुँचा रहा है, और फिर अजीब हरकतें करने लगते हैं। commercial LLM इतने विश्वसनीय लगते हैं कि जो लोग इनके काम करने का तरीका नहीं जानते, वे आसानी से भ्रमित हो सकते हैं। मुझे LLM के नतीजों में साफ़ गलतियाँ मिली हैं, इसलिए मुझमें संदेह करने की आदत बनी, लेकिन जिनके लिए वस्तुनिष्ठ निर्णय लेना कठिन है, उनके सब कुछ वैसे ही मान लेने का जोखिम बहुत बड़ा है
MIT Media Lab की Nataliya Kosmyna द्वारा लिखे गए एक अध्ययन में, Boston के लगभग 50 विश्वविद्यालय छात्रों को तीन समूहों में बाँटकर किए गए प्रयोग में कहा गया कि ChatGPT इस्तेमाल करने वाले समूह में दूसरे समूहों की तुलना में मस्तिष्कीय गतिविधि, खासकर creativity और working memory से जुड़ी alpha और theta connectivity, उल्लेखनीय रूप से कम थी। लेकिन संदेह है कि इतने छोटे n वाले fMRI studies को सचमुच भरोसेमंद वैज्ञानिक परिणाम माना जा सकता है या नहीं। उल्टा यह confirmation bias पर आधारित दिखावटी नतीजा भी हो सकता है
आजकल बढ़ा-चढ़ाकर लिखे गए 'doom prediction' लेख लोगों की सोच को बहुत ज़्यादा एक जैसा बना रहे हैं। इन दावों में कुछ सच्चाई ज़रूर है, लेकिन वास्तविकता कहीं अधिक सूक्ष्म है
TV, social media, printing press जैसी पिछली media technologies के बदलावों को देखते हुए, यह बताया गया कि इसी तरह के media panic इतिहास में बार-बार दोहराए गए हैं संबंधित लेख
mass media हमारी input यानी सूचना-खपत को एकरूप बनाता है। अगर AI मौजूदा media से अलग है, तो यह भी सोचना चाहिए कि वह हमारी output यानी उत्पादित चीज़ों को भी सीधे एकरूप बना सकता है
printing press से पहले दुनिया के लोग शायद 8 अरब अलग-अलग बातचीत कर रहे होते, लेकिन printing press के कारण विविध छोटे समूह धीरे-धीरे बड़े होते गए और अधिक व्यापक स्तर पर वही बातचीत करने लगे
SNS, TV, Hollywood, और समग्र popular culture भी समाज को एकरूप बनाने का काम करते हैं
यह राय है कि central limit theorem लगातार काम करती रहती है
अंततः हमारी नियति एकरूप बने दिग्गजों के कंधों पर चढ़ने की ही है
जब मैं विश्वविद्यालय में humanities पढ़ रहा था, तब papers का संदर्भ लेकर अपनी ideas के साथ paste और connect करने का जो तरीका अपनाता था, वह आज AI जो कर रहा है उससे बहुत अलग नहीं लगता। आखिरकार AI आपका intellectual prosthetic बनता है या नहीं, यह प्रत्येक व्यक्ति के मानदंड और समझ पर निर्भर करता है