Einstein AI मॉडल - क्या AI वैज्ञानिक नवाचार को आगे बढ़ा सकता है?

 (thomwolf.io)
22 पॉइंट द्वारा GN⁺ 2025-03-11 | 5 टिप्पणियां | WhatsApp पर शेयर करें
  • HuggingFace के सह-संस्थापक Thomas Wolf का तर्क है कि AI विज्ञान में तेज़ प्रगति, यानी "संपीड़ित 21वीं सदी", नहीं लाएगा
  • "संपीड़ित 21वीं सदी" Dario Amodei के "Machine of Loving Grace" से लिया गया एक विचार है, जिसमें दावा किया गया है कि AI डेटा सेंटरों में अनेक Einstein जैसे शोधकर्ताओं की भूमिका निभाते हुए 5~10 वर्षों में 21वीं सदी की सारी वैज्ञानिक खोजें कर देगा
  • शुरू में यह विचार प्रभावशाली लगा और लगा कि "AI 5 साल में विज्ञान की हर चीज़ बदल देगा!", लेकिन दोबारा पढ़ने पर यह कई हिस्सों में wishful thinking जैसा लगा

AI जीनियस नहीं, बल्कि 'Yes-man' है

  • उनका मानना है कि वास्तव में हमें "सर्वर पर मौजूद Yes-man का देश" मिलेगा (अगर मौजूदा रुझान जारी रहे)
  • इस अंतर को समझाने के लिए वे एक निजी अनुभव बताते हैं
    • मैं हमेशा एक बहुत अच्छे अंक लाने वाला छात्र था
    • मैं एक छोटे शहर में बड़ा हुआ, फ्रांस के शीर्ष इंजीनियरिंग स्कूल में दाख़िला लिया, और फिर MIT के PhD प्रोग्राम में प्रवेश पाया
    • पढ़ाई हमेशा आसान लगती थी
      • मैं पहले से भांप लेता था कि प्रोफेसर की बात किस दिशा में जा रही है और परीक्षा में किस तरह के सवाल आएँगे
    • लेकिन जब मैं शोधकर्ता (PhD छात्र) बना, तो मुझे बड़ा झटका लगा
      • मैं औसत से कम, उम्मीदों पर खरा न उतरने वाला, एक साधारण शोधकर्ता था
      • मेरे सहकर्मी कई दिलचस्प आइडिया लाते थे, लेकिन मैं बार-बार दीवार से टकराता था
      • जो चीज़ किताबों में नहीं थी, उसे मैं खुद गढ़ नहीं पाता था (और जो बनाता था, वह भी अक्सर पुरानी बेकार थ्योरी का रूपांतर भर होता था)
      • उससे भी बड़ी समस्या यह थी कि सीखी हुई बातों पर संदेह करना और मौजूदा स्थिति को चुनौती देना बेहद कठिन था
      • मैं Einstein नहीं था, सिर्फ़ पढ़ाई में अच्छा छात्र था
      • शायद मैं Einstein इसलिए नहीं बन पाया क्योंकि मैं स्कूल में बहुत अच्छा था
  • इतिहास के कई जीनियस लोग पढ़ाई में संघर्ष करते रहे हैं
    • Edison को उनके शिक्षक ने "मंदबुद्धि(addled)" कहा था
    • Barbara McClintock को "अजीब विचारों" वाली कहकर आलोचना मिली, लेकिन बाद में उन्होंने Nobel Prize जीता
    • Einstein Zurich Polytechnic की प्रवेश परीक्षा में पहली कोशिश में असफल रहे थे
    • ऐसे उदाहरण असंख्य हैं
  • लोग अक्सर यह गलती करते हैं कि Newton या Einstein को सिर्फ़ 'विस्तारित toppers' मान लेते हैं
    • यानी वे ग़लत तरीके से मान लेते हैं कि शीर्ष 10% छात्रों को रैखिक रूप से स्केल कर दिया जाए तो जीनियस बन जाएगा
  • यह नज़रिया विज्ञान की सबसे महत्वपूर्ण क्षमता को नज़रअंदाज़ करता है
    • सही सवाल पूछने और सीखी हुई बातों को भी चुनौती देने की क्षमता ही असली वैज्ञानिक breakthrough का केंद्र है
    • असली वैज्ञानिक breakthrough तब हुए जब Copernicus ने अपने समय के सारे प्रचलित ज्ञान के विरुद्ध जाकर यह प्रस्ताव रखा कि पृथ्वी सूर्य की परिक्रमा करती है
      • machine learning की भाषा में कहें, तो यह "सारे training data के बावजूद" सामान्य समझ के विरुद्ध जाने जैसा था

Einstein कैसे बनते हैं

  • डेटा सेंटर में Einstein बनाने के लिए सिर्फ़ ऐसा सिस्टम काफ़ी नहीं है जो सारे उत्तर जानता हो
    • ज़रूरत ऐसे सिस्टम की है जो ऐसे सवाल पूछ सके जिनके बारे में किसी और ने सोचा भी न हो
    • उसे तब भी पूछना आना चाहिए, "अगर यह सब ग़लत हो तो?", जब सारी textbooks, experts और common sense उसके ख़िलाफ़ हों
  • special relativity के क्रांतिकारी paradigm shift के बारे में सोचिए
    • पहली premise यह रखने का साहस चाहिए था कि "मान लें कि हर frame of reference में प्रकाश की गति स्थिर है"
    • यह उस समय की common sense (और आज की intuition) के भी ख़िलाफ़ था
  • CRISPR को 1980 के दशक से बैक्टीरिया की adaptive immune system के रूप में जाना जाता था
    • लेकिन खोज के 25 साल बाद Jennifer Doudna और Emmanuelle Charpentier ने यह प्रस्ताव दिया कि इसका उपयोग gene editing के लिए किया जा सकता है, और इसके लिए उन्हें Nobel Prize मिला
    • "हम वर्षों से जानते थे कि XX, YY करता है, लेकिन क्या हो अगर हम ग़लत समझ रहे हों? या इसे किसी बिल्कुल अलग अवधारणा ZZ पर लागू किया जा सके?"
      • यही समझ outside-of-knowledge thinking और paradigm shift का सार है
      • यही वैज्ञानिक प्रगति का मुख्य तंत्र है
  • ऐसे paradigm shift बहुत कम होते हैं (लगभग साल में 1~2 बार)
    • असर साबित हो जाने के बाद ऐसे breakthrough आमतौर पर Nobel Prize तक पहुँचते हैं
  • भले ही ये दुर्लभ हों, लेकिन Dario की इस बात से सहमति है
    • वैज्ञानिक प्रगति में सबसे बड़ा योगदान ऐसे paradigm shift का होता है, और बाकी का बहुत बड़ा हिस्सा शोर भर है

AI के लिए वैज्ञानिक नवाचार करना मुश्किल क्यों है

  • आज AI की क्षमता मुख्यतः पहले से मौजूद ज्ञान को सीखने और उसके आधार पर जवाब देने पर केंद्रित है
  • मौजूदा AI मॉडल की बुद्धिमत्ता में सुधार को मापने का तरीका सीमित है
    • हाल के AI tests में "Humanity's Last Exam" और "Frontier Math" जैसे benchmarks शामिल हैं
      • इनमें बहुत कठिन प्रश्न होते हैं, जिन्हें आमतौर पर PhD-स्तर के शोधकर्ता तैयार करते हैं
      • लेकिन इनका स्पष्ट और बंद-रूप सही उत्तर मौजूद होता है
  • इस तरह की परीक्षाएँ वैसी ही हैं जिनमें मैं छात्र जीवन में अच्छा था
    • वे ऐसी समस्याओं पर सही जवाब खोजने की क्षमता जाँचती हैं जिनके उत्तर पहले से ज्ञात हैं
  • लेकिन असली वैज्ञानिक breakthrough पहले से ज्ञात प्रश्नों का उत्तर देने से नहीं आता,
    • बल्कि नए और चुनौतीपूर्ण प्रश्न उठाने और मौजूदा अवधारणाओं व विचारों पर सवाल करने से आता है
  • Douglas Adams की The Hitchhiker's Guide to the Galaxy को याद कीजिए
    • उत्तर "42" है, लेकिन असल सवाल क्या है, यह किसी को नहीं पता
    • यही तो research का सार है
  • मौजूदा LLM मानवता के लगभग सारे ज्ञान को याद रखने के बावजूद नया ज्ञान पैदा नहीं कर पा रहे
    • वे मुख्यतः "manifold filling" कर रहे हैं
      • यानी इंसानों द्वारा पहले से ज्ञात ज्ञान के बीच की खाइयाँ भर रहे हैं
      • एक तरह से ज्ञान को वास्तविकता के ताने-बाने की तरह जोड़ रहे हैं
  • अभी हम बहुत आज्ञाकारी छात्र बना रहे हैं
    • और यह मौजूदा AI के मुख्य लक्ष्य, यानी उत्कृष्ट assistant और अनुकूल helper बनाने के लिए बिल्कुल उपयुक्त है

AI अगर सचमुच वैज्ञानिक नवाचार करना चाहता है

  • लेकिन AI को वैज्ञानिक नवाचार करना है तो निम्न शर्तें ज़रूरी हैं
    • उसे अपने पास मौजूद ज्ञान पर सवाल उठा सकना चाहिए
    • उसे ऐसे नए विचार प्रस्तावित कर सकने चाहिए जो उसके पिछले training data से टकराते हों
  • नहीं तो AI वैज्ञानिक नवाचार नहीं ला पाएगा
  • अगर हम वैज्ञानिक breakthrough चाहते हैं, तो AI मॉडल की performance मापने के तरीक़े पर दोबारा विचार करना होगा
    • अभी हम ज्ञान की मात्रा और मौजूदा प्रश्नों पर सटीक उत्तर देने की क्षमता मापते हैं
    • इसकी जगह हमें ऐसे तरीक़े अपनाने होंगे जो ज्ञान और reasoning क्षमता की जाँच करें
  • वैज्ञानिक AI मॉडल में ये क्षमताएँ होनी चाहिए
    • training data को चुनौती देना : जो सीखा है उसे जस का तस स्वीकार न करे, बल्कि उस पर सवाल कर सके
    • साहसी counterfactual approach आज़माना : प्रचलित common sense के विरुद्ध साहसी परिकल्पनाएँ करने की क्षमता
    • छोटे संकेतों से generalized proposals निकालना : सूक्ष्म hints से नए patterns ढूँढकर उन्हें generalize कर सके
    • ग़ैर-स्वाभाविक प्रश्न उठाकर नए research paths खोलना : ऐसे सवाल पूछ सके जो पहले किसी ने नहीं पूछे और नए शोध मार्ग बनाएँ
  • हमें हर सवाल का जवाब देने वाला A+ छात्र नहीं चाहिए
    • हमें ऐसा B छात्र चाहिए जो वह देख सके और पूछ सके जो दूसरे चूक गए

PS : AI benchmark सुधार की दिशा

  • आप सोच सकते हैं कि किस तरह का benchmark चाहिए
    • उदाहरण के लिए, ऐसी स्थिति की कल्पना की जा सकती है जहाँ मॉडल को हाल की नई खोज पर परखा जाए
      • जबकि उस खोज के बारे में मॉडल के पास कोई पूर्वज्ञान या conceptual framework न हो
      • और यह आंका जाए कि क्या वह सही सवालों से शुरुआत करके समस्या की पड़ताल कर सकता है
  • यह बहुत कठिन समस्या है
    • ज़्यादातर AI मॉडल अभी मानवता द्वारा ज्ञात लगभग सारी जानकारी पर प्रशिक्षित हैं
    • इसलिए उन्हें ऐसे परिदृश्य में काम कराना, जहाँ न उत्तर हो न conceptual framework, चुनौतीपूर्ण है
  • लेकिन अगर वैज्ञानिक नवाचार चाहिए, तो ऐसे व्यवहार का आकलन करने वाले benchmarks चाहिए
  • अंततः यह एक open problem है, और इस पर सूझबूझ भरी राय सुनना दिलचस्प होगा

PPS:

  • बहुत से लोग (AlphaGo का) "Move 37" यह साबित करने के लिए पेश करते हैं कि AI पहले ही Einstein-स्तर की बुद्धिमत्ता तक पहुँच चुका है
    • इस पर विशेष रूप से बात करना ज़रूरी है
  • Move 37 प्रभावशाली था, लेकिन आख़िरकार वह Go के तय नियमों के भीतर toppers-जैसा उत्तर था
    • उसने सिर्फ़ मौजूदा खेल-नियमों के भीतर समस्या हल की
  • इसी तरह, AI मॉडल जल्द ही
    • सर्वश्रेष्ठ गणितज्ञों द्वारा बनाए गए proof से भी ज़्यादा elegant mathematical proof बना सकते हैं
    • लेकिन इसे असली paradigm shift नहीं कहा जा सकता
  • Go में Einstein-स्तर का breakthrough कुछ और ज़्यादा बुनियादी होना चाहिए
    • जैसे Go के नियमों को ही नए सिरे से परिभाषित करना
    • या मौजूदा खेल से कहीं ज़्यादा दिलचस्प नए खेल-नियम रच देना
  • गणित में इसका बेहतर रूपक होगा
    • अलग-अलग गणितीय क्षेत्रों को जोड़कर नया research field खोलना
    • यह आमतौर पर Fields Medal दिलाने लायक उपलब्धि होती है
  • Einstein-स्तर का वैज्ञानिक paradigm shift अब भी बहुत ऊँचे मानदंड की माँग करता है

संबंधित पढ़ाई

5 टिप्पणियां

 
goehd4551 2025-03-17

अगर कहा जाए कि ऐसा AI बना लिया गया है जो ऐसे सवाल पूछ सकता है जिनके बारे में हमने सोचा भी नहीं, तो अगर वह AI यह पूछना शुरू कर दे कि इंसानों को नुकसान क्यों नहीं पहुँचाना चाहिए, तो यह काफ़ी डरावना लगेगा।
 
quest4i 2025-03-15

AI और रचनात्मकता: paradigm shift और inspiration का संबंध

Hugh के लिए विचारों का संकलन <- ?

Thomas Wolf का लेख यह तर्क रखता है कि AI के लिए वास्तविक वैज्ञानिक innovation को आगे बढ़ाना मुश्किल होगा। वे AI को मौजूदा ज्ञान को फिर से जोड़ने वाले एक "Yes-man" की तरह बताते हैं और कहते हैं कि यह paradigm shift लाने वाली Einstein जैसी प्रतिभा से काफ़ी दूर है.

उनका नज़रिया AI की सीमाओं को सटीक रूप से दिखाता है, लेकिन साथ ही हमें AI और मानव सहयोग की संभावनाओं पर सोचने के लिए भी प्रेरित करता है। < यह लेख Claude से राय पूछने पर मिले जवाब की सामग्री है, लेकिन उसने बिना मांगे इसे artifact के रूप में बना दिया, और यह वाक्य भी किसी दूसरी बात के बीच अचानक बिना किसी खास उल्लेख के जोड़ दिया। अजीब है...

inspiration और AI की भूमिका

लेकिन inspiration आखिर है क्या? मानव रचनात्मकता भी आखिरकार मौजूदा विचारों के नए connection और combination से ही पैदा होती है। Einstein ने भी Newton, Maxwell और Lorentz जैसे पूर्ववर्ती वैज्ञानिकों के कंधों पर खड़े होकर और दूर तक देखा था।

AI जो प्रदान करता है:

  1. विविध ज्ञान क्षेत्रों का जुड़ाव: उन क्षेत्रों को जोड़ने की क्षमता जिन्हें इंसान अब तक आपस में नहीं जोड़ पाया
  2. pattern recognition: विशाल डेटा में ऐसे pattern ढूंढना जिन्हें इंसान नज़रअंदाज़ कर सकता है
  3. idea triggering: कभी-कभी AI के "अटपटे" सुझाव इंसान को नया perspective दे सकते हैं

AI और मानव का सहजीवी संबंध

Thomas Wolf कहते हैं कि AI अपने दम पर paradigm shift नहीं ला सकता, लेकिन AI और इंसान का collaboration कैसा रहेगा? उस प्रक्रिया में, जहाँ इंसान सवाल उठाता है और AI विभिन्न संभावनाओं को explore करता है, नए ideas जन्म ले सकते हैं।

इंसान के पास सवाल पूछने की क्षमता, intuition, और परिणाम के मूल्य का आकलन करने की क्षमता है। AI विशाल डेटा के आधार पर connection points सुझाता है। इन दो बुद्धियों का मेल शायद हमें वहाँ तक ले जा सके जहाँ दोनों में से कोई भी अकेले नहीं पहुँच सकता।

निष्कर्ष: रचनात्मकता की नई संभावना

AI अपने दम पर "compressed 21st century" नहीं बना पाएगा। लेकिन यह इंसानों को inspiration दे सकता है, सोच के नए रास्ते खोल सकता है, और मानव रचनात्मकता के साथी की तरह काम कर सकता है।

सच्चा innovation इंसान और AI द्वारा अपनी-अपनी ताकतों का उपयोग करते हुए की जाने वाली co-creation की प्रक्रिया में उभरने की अधिक संभावना रखता है। यह सिर्फ़ एक "Yes-man" की भूमिका से आगे बढ़कर, इंसान के साथ मिलकर नए paradigm की तलाश करने की यात्रा हो सकती है.
 
felizgeek 2025-03-11

https://hi.news.hada.io/topic?id=19168
यह ऐसा शोध है जिसके बारे में लगा कि AI ने शायद कभी सोचा भी नहीं होगा।
मैं मुख्य लेख के सार से सहमत हूँ।
 
codemasterkimc 2025-03-11

"हमें ऐसा A+ छात्र नहीं चाहिए जो हर सवाल का जवाब दे सके
हमें ऐसा B छात्र चाहिए जो वह देख सके और सवाल पूछ सके जिसे दूसरे लोग चूक गए हों"

यह देखते ही मुझे लगा कि मैं तो वही B छात्र हूँ, लेकिन बड़ी कंपनियाँ तो सिर्फ A+ छात्रों को देखकर ही भर्ती करती हैं।
 
GN⁺ 2025-03-11
Hacker News राय

  • यह अच्छा लगा कि AI को निर्देश दिया गया था कि "कुछ भी गढ़ो मत, और जवाब न पता हो तो कहो कि नहीं पता"

    • लगता है AI को "American-style" की बजाय "Dutch-style" में tune किया जाए तो वह अधिक उपयोगी होगा
    • "Dutch-style" अपनी सीधी और ईमानदार शैली के लिए मशहूर है
    • "American-style" AI को इस तरह tune किया गया है मानो ग्राहक हमेशा सही हो
    • इंसानी interation में Dutch-style की सीधापन और ईमानदारी असहज लग सकती है, लेकिन यह efficient और effective है
    • software को विनम्र होने की ज़रूरत नहीं, और न ही उसे भावनाएँ आहत न करने की चिंता करनी चाहिए

  • Feyerabend की "Against Method" पढ़ने की सिफारिश की गई

    • इसने anti-inductive सोच की ज़रूरत को अच्छी तरह पुनर्गठित किया है

  • BlueSky version का लिंक दिया गया है

  • यह "सही सवाल पूछने" पर एक दिलचस्प पोस्ट है

    • लगता है इसमें first-principles आधारित causal reasoning की कमी है
    • एक सचमुच intelligent system यह नोटिस करेगा कि क्या चीज़ textbook version से मेल नहीं खाती
    • जब वास्तविकता अपेक्षा से अलग हो, तो follow-up सवाल पूछना अधिक गहरी insight और सही सवालों व जवाबों तक ले जाता है
    • MIT Lab & Harvard का "Reasoning-Prior" approach दिलचस्प है
    • संबंधित paper: "General Reasoning Requires Learning to Reason from the Get-go"

  • रचनात्मक B student और AI A student के साथ मिलकर काम करने वाली 21वीं सदी की compression संभावना पर राय

  • LLM के वास्तव में novel response और hallucination में फर्क नहीं किया जा सकता

    • अगर आप जानते हों कि समस्या का परिणाम कैसा दिखना चाहिए और बेहतर function खोज रहे हों, तो कुछ मामलों में इसे हल किया जा सकता है
    • जैसे-जैसे चीज़ें जटिल होती हैं, 10 करोड़ संभावित समाधान test नहीं किए जा सकते
    • 10 करोड़ बार clinical trial चलाने की logistics मौजूद नहीं है

  • यह ऐसी अच्छी पोस्ट है जिसे आज के Twitter/X से अधिक स्मार्ट जगह पर होना चाहिए

    • benchmarks की ज़रूरत क्यों है, इसका स्पष्टीकरण
    • genius (मानव या AI) नई insight दे सकता है
    • sales brochure वाले दावे, research paper comparison chart, व्यक्तिगत KPI/OKR, या promotion packet की ज़रूरत नहीं

  • ऐसे algorithm देखे गए हैं जो ऐसे circuit design करते हैं जिन्हें मानव engineer design नहीं करेगा

    • out-of-the-box thinking तक पहुँचना शायद आसान हो सकता है

  • लगता है लेखक मानता है कि अनुमान बनाना ही कठिन हिस्सा है

    • एक शक्तिशाली assistant लोगों को साहसी mathematical ideas आज़माने में सक्षम बनाए, तो उसका बड़ा प्रभाव होगा

  • ऐसा model नहीं मिला जो factuality पर सख्ती से टिका रहे

    • संभव है कि पहले से ऐसे model हों जो "facts" पर सवाल उठा सकें और कुछ नया invent कर सकें

  • सिर्फ सीधी factual बातें चाहिए, intuition नहीं

    • conscientious AI नहीं चाहिए