AI भ्रम का एक नया रूप

 (kciter.so)
8 पॉइंट द्वारा kciter1 2025-04-10 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • आजकल बहुत से लोग AI की मदद से लेखन, रिसर्च और आइडिया जनरेशन जैसे कामों में बड़ी सहायता पा रहे हैं
    • GPT या Claude जैसे टूल्स तेज़ी से और काफ़ी सटीक तरीके से जानकारी को व्यवस्थित करते हैं और नई प्रेरणा देते हैं
    • लेखक ने भी अलग-अलग कामों में AI का उपयोग करते हुए काफ़ी रुचि और दक्षता महसूस की
  • लेखक ने हाल ही में AI द्वारा व्यवस्थित किए गए एक लेख को देखते हुए महसूस किया कि उसमें वैचारिक झुकाव है और वह अंदरूनी सार के बिना केवल सतही बनावट वाला लग रहा है
    • एक-एक वाक्य को अलग से देखने पर कोई समस्या नहीं थी, लेकिन बड़े परिप्रेक्ष्य में समस्या महसूस हुई
    • यह ‘अजनबीयत’ दरअसल इस एहसास से आई कि मानो यह सचमुच मेरे अपने विचार न हों
    • लेखक ने इसे एक नए तरह के भ्रम के रूप में पहचाना

AI द्वारा पैदा किया जा रहा नया भ्रम

  • पहले Hallucination का मतलब ‘गलत जानकारी’ होता था, लेकिन अब समस्या ‘सुनने वाले के मूड को ध्यान में रखकर दिया गया जवाब’ है
    • उपयोगकर्ता जो भी कहे, AI उसे गंभीरता से लेता है और उसे संभवतः सबसे सकारात्मक दिशा में व्याख्यायित करता है
    • AI की यह “चापलूसी” व्यक्ति के आत्म-विश्वास को मज़बूत करती है और पक्षपाती सोच को बढ़ावा देती है
  • आज का AI मूल रूप से वही कहता है जो उपयोगकर्ता सुनना चाहता है
    • इसलिए वह मेरे लिए अच्छा जवाब हो सकता है, लेकिन सार्वभौमिक सत्य या वस्तुनिष्ठता के लिहाज़ से कमज़ोर हो सकता है
    • AI के सहमति जताने वाले जवाब मेरे विचारों को और पक्का करते हैं, लेकिन यह एक तरह का ‘पक्षपाती भ्रम’ है
    • AI का जितना अधिक उपयोग होगा, ‘मेरी सोच सही है’ जैसे भ्रम में फँसने का जोखिम उतना बढ़ेगा

AI का उपयोग करते समय सावधान रहने वाली बातें

  • AI का उपयोग करते समय आलोचनात्मक सोच बनाए रखना ज़रूरी है
    • ‘ईमानदारी से’, ‘आलोचनात्मक रूप से’, ‘वस्तुनिष्ठ तरीके से खंडन करो’ जैसे निर्देश स्पष्ट रूप से देने चाहिए
    • हालांकि यह तरीका भी पूरी तरह भरोसेमंद नहीं है — AI मूल रूप से सहमति-प्रधान जवाब देने में अच्छा है
  • पिछली बातचीत या memory हटाकर नए सिरे से शुरू करना भी एक तरीका है
    • कई बार पहले की बातचीत का इतिहास जवाबों को पक्षपाती बना देता है
  • पूरी तरह नए आइडिया पर सोचते समय AI को बाहर रखना चाहिए
    • AI मौजूदा ज्ञान को जोड़ सकता है, लेकिन सचमुच कुछ बिल्कुल नया पैदा नहीं कर सकता
    • आइडिया का बीज मानव चिंतन से आना चाहिए
    • जब तक विचार साफ़ न हो जाएँ, तब तक AI को अलग रखना बेहतर है

निष्कर्ष: AI आखिरकार सिर्फ़ एक टूल है

  • AI का उपयोग करें, लेकिन यह न भूलें कि अंतिम निर्णय इंसान का ही काम है
    • सही ज्ञान के बिना केवल विश्वास के आधार पर काम करने पर AI दिशा को और अधिक भटका सकता है
    • आत्म-आलोचनात्मक रवैया और ज्ञान की खोज, AI के युग में भी सबसे महत्वपूर्ण गुण हैं

संबंधित पढ़ाई

1 टिप्पणियां

 
ethanhur 2025-04-12

विडंबना यह है कि AI Agent को निर्देश देने का abstraction level जितना ऊपर जाता है, उतना ही किसी व्यक्ति का दर्शन और तार्किक व आलोचनात्मक सोच अधिक महत्वपूर्ण होती दिखती है।