गणित और सैद्धांतिक कंप्यूटर साइंस में 10 प्रगति

 (openai.com)
1 पॉइंट द्वारा GN⁺ 2 시간 전 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • कम-से-कम 10 वर्षों से कोई अहम प्रगति न हुए 10 खुले प्रश्नों पर OpenAI के अगले प्रमुख मॉडल के Astra internal version ने नए नतीजे उत्पन्न किए, जिनका दायरा high-dimensional geometry से लेकर quantum complexity और lattice cryptography तक फैला है
  • समाधानों की खोज में Sol API pricing के हिसाब से लगभग $2,000 के टोकन इस्तेमाल हुए, और इंसानों ने उसी मॉडल के साथ पेपर तैयार करने के बाद मॉडल ने हर तर्क को Lean certificates के रूप में औपचारिक बनाया
  • प्रमुख उपलब्धियों में non-sofic groups के अस्तित्व का प्रमाण, Connes rigidity conjecture का खंडन, permanent computation के लिए arithmetic formula lower bound n⁴/log n, और general 2-player quantum games के लिए exponential parallel repetition theorem शामिल हैं
  • sphere packing और binary·spherical codes की सीमाओं में सुधार किया गया, nearest vector problem की polynomial-factor approximation hardness और Ehrhart volume conjecture को हल किया गया, और Erdős problems 146·180·183 के उत्तर भी दिए गए
  • OpenAI ने कहा कि पेपर तैयारी, Lean formalization और correctness की ज़िम्मेदारी इंसानों की है, लेकिन गणितीय तर्क AI ने उत्पन्न किए हैं, इसलिए इन्हें मानव लेखन के रूप में चिह्नित नहीं करना चाहिए और AI के योगदान का ईमानदारी से श्रेय देना चाहिए

Astra द्वारा उत्पन्न 10 नतीजे

  • वैज्ञानिकों और गणितज्ञों की खोज को तेज़ करने के लिए OpenAI, ChatGPT for Academic Researchers के माध्यम से 100,000 लोगों को अपने सर्वोत्तम ChatGPT models मुफ़्त में दे रहा है, और विकास प्रक्रिया में भी सार्वजनिक शोध समस्याओं पर models का लगातार मूल्यांकन कर रहा है
  • मई में, unreleased model के evaluation के दौरान मिली Erdős unit distance conjecture की AI-generated counterexample को सार्वजनिक किया गया था, और इसके बाद गणित और सैद्धांतिक कंप्यूटर साइंस में आगे का शोध शुरू हुआ
  • चुनी गई समस्याओं में मुख्य नतीजों के स्तर पर कम-से-कम 10 साल से, और ज़्यादातर मामलों में उससे भी बहुत लंबे समय से, कोई प्रगति नहीं हुई थी, जबकि उन्हें अपने-अपने गणितीय समुदायों में काफ़ी ध्यान मिला हुआ था
  • Astra internal version ने समाधान खोजे, और कुल खोज-लागत Sol API pricing के हिसाब से लगभग $2,000 रही
    • इंसानों ने उसी मॉडल की मदद से तर्कों को paper के रूप में तैयार किया
    • मॉडल ने हर तर्क को Lean certificates के रूप में औपचारिक बनाया
    • हर समाधान के लिए मॉडल के reasoning walkthroughs भी सार्वजनिक किए गए
  • 10 नतीजे इस प्रकार हैं
    1. high-dimensional sphere packing: sphere packing density की नई upper bound को Cohn–Elkies critical point तक घटाया गया
    2. binary·spherical codes: दिए गए minimum distance पर binary codes के maximum size bounds में exponential सुधार किया गया, और high-dimensional spherical codes में भी इसी तरह के नतीजे मिले
    3. non-sofic groups: non-sofic groups के अस्तित्व को स्थापित करने वाली एक construction दी गई, जिससे group theory का एक केंद्रीय खुला प्रश्न हल हुआ
    4. Connes rigidity conjecture: इस लंबे समय से चले आ रहे conjecture का खंडन किया गया कि कुछ groups uniquely von Neumann algebras द्वारा निर्धारित होते हैं
    5. arithmetic circuit complexity: arithmetic circuits और formulas के ज़रिए permanent की गणना के लिए नई lower bounds हासिल की गईं, और arithmetic formula lower bound का क्रम n⁴/log n है
    6. quantum parallel repetition: general 2-player quantum games के लिए exponential parallel repetition theorem सिद्ध किया गया, जिससे classical complexity theory के एक बुनियादी सिद्धांत का विस्तार होता है
    7. nearest vector problem: post-quantum cryptography से जुड़े एक प्रमुख lattice problem में polynomial-factor approximation hardness स्थापित की गई
    8. Ehrhart volume conjecture: उन convex bodies का संभव अधिकतम volume सभी dimensions में निर्धारित किया गया जिनमें centroid ही एकमात्र interior lattice point है
    9. multicolor Ramsey numbers: multicolor triangle Ramsey numbers के लिए superexponential lower bound हासिल की गई, जिससे Erdős problem 183 हल हुआ
    10. extremal graph theory conjectures: compactness और degeneration conjectures से जुड़े नतीजों के ज़रिए Erdős problems 146·180 हल किए गए
  • पहले आए unit distance conjecture counterexample के बाद के शोध में reals पर sum-product conjecture का counterexample, decomposable primes और Elekes–Rónyai problem, SETH के तहत superconstant dimension bichromatic furthest pair के लिए quadratic time की आवश्यकता, reals पर point-line incidences की communication complexity, और Minkowski lattices की repeated distances शामिल हैं

शोध attribution और गणितीय समुदाय की भूमिका

  • गणितीय शोध में योगदान दे सकने वाली AI systems के आने से ऐसे सवाल पैदा होते हैं जिनका जवाब केवल एक टेक कंपनी के लिए देना मुश्किल है, और OpenAI ने AI और mathematics पर Leiden Declaration के हस्ताक्षरकर्ताओं सहित AI के प्रभाव को लेकर चिंता जताने वाले दृष्टिकोणों के प्रति सम्मान जताया
  • नतीजे जिस तरह बनाए गए, उसे authorship और contribution attribution में ईमानदारी से दिखाया जाना चाहिए
    • यदि पूरी तरह AI द्वारा उत्पन्न proofs को मानव लेखन के रूप में दिखाया जाता है, तो इससे system के योगदान और इंसानों के वास्तविक बौद्धिक काम—दोनों का विकृतिकरण होता है
    • इंसान paper preparation और Lean formalization में सहायता करते हैं और correctness की ज़िम्मेदारी लेते हैं, लेकिन गणितीय तर्क स्वयं AI system उत्पन्न करता है
  • OpenAI को उम्मीद है कि गणितीय समुदाय इन नतीजों की समीक्षा करेगा, उन्हें संदर्भ देगा, और इन विचारों को नए शोध और खोजों में आगे बढ़ाएगा
  • जैसे-जैसे AI अधिक परिष्कृत research collaborator बनता जा रहा है, वैज्ञानिकों और गणितज्ञों के लिए अपने-अपने क्षेत्रों के भविष्य को खोजने और परिभाषित करने हेतु व्यापक पहुँच अनिवार्य है

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2 시간 전
Hacker News टिप्पणियाँ

  • सबसे बड़ी शिकायत पूरे प्रयोग और सेटअप के बारे में पारदर्शिता की कमी है। यह मानना मुश्किल है कि मॉडल को सिर्फ़ यही 10 समस्याएँ एक-एक बार हल करने के लिए दी गई थीं, इसलिए पूरे प्रयोग की रूपरेखा बताए बिना पेश किया गया 2,000 डॉलर का आँकड़ा P-value hacking जैसी गलतफ़हमी पैदा कर सकता है
    मैं जानना चाहता हूँ कि मॉडल को कुल कितनी समस्याएँ दी गईं, हार मानने से पहले वह कितने प्रतिशत मामलों में हल नहीं कर पाया और उस पर कितना खर्च आया, हर समस्या पर कितने प्रयास किए गए, और execution environment की लागत क्या थी, जिसमें compute cluster access भी शामिल हो

    • मुझे याद है कि AI उछाल से पहले भी math education में यह चर्चा होती थी कि सिर्फ़ समस्या और उसका हल ही नहीं, बल्कि उसे ढूँढने में मदद करने वाला आसपास का scaffolding भी अहम होता है
    • खर्च शायद इस आलोचना के लिए उतना उपयुक्त मुद्दा नहीं है। अगर इन 10 समस्याओं पर 10 लाख डॉलर भी खर्च किए गए हों, तो वह 10~20 math researchers के एक साल के खर्च जितना होगा; और यह साफ़ नहीं कि वही पैसा इंसानों को देकर वही नतीजा पाया जा सकता था या नहीं
    • यह भी जानने की उत्सुकता है कि क्या OpenAI या किसी और LLM कंपनी से असंबद्ध किसी शोधकर्ता ने भी ऐसा ही प्रदर्शन किया है
      यह भी जाँचना ज़रूरी है कि कहीं OpenAI ने किसी सक्षम combinatorics researcher को रखकर समस्याएँ हल तो नहीं कराईं और मॉडल का उपयोग सिर्फ़ सहायक रूप में किया गया हो
    • हर बात को अनिवार्य randomized controlled trial (RCT) के बिना स्वीकार न करने का रवैया भी अतिशयोक्तिपूर्ण है। मैं व्यंग्य नहीं कर रहा, पर RCT जैसा मंचन किए बिना भी उचित आत्म-संशय संभव होना चाहिए
    • कुल execution cost का खुलासा न करने की तुलना P-value hacking से करना अनुचित है। कीमत छिपाना scientific fraud या नतीजों में हेरफेर जैसी बात बिल्कुल नहीं है

  • इससे भी ज़्यादा चौंकाने वाली बात यह है कि यह पोस्ट HN के पहले पेज के सबसे ऊपर तक भी नहीं पहुँची। भले ही यह पहले से बेहतर नतीजा हो, लेकिन यह दिखाता है कि अब AI के math और computer science में बड़े advances लाने के विचार पर लोग पहले जितना हैरान नहीं होते

    • जो लोग मनोवैज्ञानिक रूप से AI प्रगति को स्वीकार नहीं कर पा रहे, उन्होंने सक्रिय रूप से flag करके इसकी ranking नीचे गिराई है। Hacker News अब elite लोगों की साइट नहीं रही
    • target audience में आने वाले मेरे कई academic mathematician दोस्तों ने कहा कि शीर्षक 10 नई उपलब्धियाँ जैसा नहीं, बल्कि पिछले महीने की उपलब्धियों का सारांश जैसा लगा, इसलिए वे आगे बढ़ गए
    • company-wise हितों और open source है या नहीं जैसे मुद्दों पर गुटबाज़ी बहुत तेज़ हो चुकी है
    • तो फिर AI research itself का क्या हाल है, यह भी सोचना चाहिए। यह भी पूछना चाहिए कि क्या OpenAI उस चरण के करीब है जहाँ वह मानव कर्मचारियों को automate करके नौकरियाँ खत्म कर दे
    • सच कहूँ तो मैं इस तरह की पोस्टों से थोड़ा थक चुका हूँ

  • AI के प्रभाव को अब नकारना मुश्किल है, और goalpost खिसकाने की जगह भी लगभग नहीं बची। अगली बार तो उन्हें मैदान के बाहर ले जाना पड़ेगा
    जितनी जल्दी लोग denial से बाहर निकलकर इसे गंभीरता से लेना शुरू करें, उतना अच्छा है

    • goalpost खिसकाने वाली आलोचना समझना कठिन है। विज्ञान आगे बढ़ने, सीखने और अपेक्षाओं को फिर से समायोजित करने की प्रक्रिया है; अगर goalpost बिल्कुल न बदले जाएँ तो वही उपलब्धियाँ बार-बार दोहराई जाएँगी
    • समस्या denial नहीं बल्कि उदासीनता है। ज़्यादातर लोगों को परवाह नहीं, लेकिन Kim Kardashian के बारे में वे सब कुछ बता सकते हैं

  • मैं उस क्षेत्र का विशेषज्ञ नहीं हूँ जिसमें OpenAI ने प्रगति का दावा किया है, इसलिए मैं उपलब्धि को जल्दबाज़ी में कमतर नहीं आँकना चाहता, लेकिन चिंता है कि ब्लॉग की भाषा marketing के लिए बढ़ा-चढ़ाकर लिखी गई हो
    यह सच है कि पहले इन समस्याओं को भरोसेमंद तरीके से हल करने का कोई computational approach नहीं था, लेकिन असली सवाल यह है कि क्या इस बार के proofs ने math में कोई नया विचार जोड़ा, या सिर्फ़ मौजूदा literature से सही tools के combination की large-scale search की गई
    मैं जानना चाहता हूँ कि क्या ये ऐसे सवाल थे जिनके जवाब मूल रूप से intuitive थे और proofs भी संभव लगते थे, पर विशेषज्ञों के समय के लायक़ नहीं थे; या फिर ये वास्तव में कठिन थे और AI ने सिर्फ़ एक बहुत बड़े theorem prover में चीज़ें डालने से कहीं ज़्यादा काम किया

    • citation record में breakthrough research को ऐसे काम के रूप में परिभाषित किया जा सकता है जिसे बहुत citation मिलती है और जो उन citation lineages को जोड़ता है जो पहले साथ दिखाई नहीं देती थीं। इसके उलट साधारण incremental research उन citations को जोड़ती है जो पहले से ही काफ़ी पास थीं
      यानी innovation को इस आधार पर काफी ठोस तरीके से मापा जा सकता है कि वह पहले से असंबद्ध विचारों और क्षेत्रों को कितना जोड़ती है। Puja Ohlhaver ने इस पर प्रस्तुति दी थी, और मैंने भी एक समर्थित experiment किया था: https://www.youtube.com/watch?v=guLDNMAOn24
    • computer science में CVP और circuit complexity की समस्याएँ बेहद महत्वपूर्ण हैं, जिन पर शीर्ष शोधकर्ता 30~40 साल से काम कर रहे हैं, और उनमें Turing Award विजेता भी शामिल हैं। अगर इन्हें सचमुच हल किया गया है, तो यह कई शीर्ष-स्तरीय सम्मेलनों में best paper award के लायक़ होगा
    • सिर्फ़ इसलिए marketing exaggeration की चिंता करना कि इसमें advanced शब्द इस्तेमाल हुआ है, समझना मुश्किल है। PhD-स्तर के शोधकर्ताओं ने अपने career का बड़ा हिस्सा इन समस्याओं पर लगाया है, इसलिए यह अभिव्यक्ति उचित है

  • शुरुआती AI takeoff पूर्वानुमानों में से एक यह था कि advanced math की unsolved problems हल करने वाले systems, math और computer science में नई खोजों के ज़रिए software performance को भी बहुत आगे बढ़ाएँगे
    मौजूदा उपलब्धि उस frontier math स्तर की लगती है जो किसी इंसान के लिए दुनिया के शीर्ष 100~1,000 लोगों, यानी लगभग top 0.00001% के बराबर होगी, और जैसे OpenAI ने GPU kernel समस्याएँ ठीक करके लगभग 15% performance improvement हासिल किया, वैसे ही software में भी बड़े advances दिख रहे हैं। बड़े models छोटे scale पर असंभव math और software engineering क्षमताएँ साथ में हासिल कर रहे हैं, इसलिए दोनों scale laws और intelligence generalization से जुड़े दिखते हैं
    लेकिन math/science discovery से सीधे software performance खुलने की संभावना अब मुझे पहले से कम लगती है। Tech companies भी math PhD holders से pure math की जगह software engineering कराती हैं, और उनकी उत्कृष्टता अक्सर नवीनतम academic discoveries से ज़्यादा उनकी general intelligence की वजह से होती है
    इसलिए यह मॉडल के बेहतर होने का सबूत तो है, लेकिन इसे frontier math revolution से ट्रिगर होने वाले explosive takeoff (foom) के ठीक पहले का संकेत मानना मुश्किल है

    • ऐसा मानने के लिए यह मानना पड़ेगा कि मॉडल सिर्फ़ academic math पर ही स्पष्ट रूप से overfit हुआ है और उसकी क्षमता practical software engineering में बिल्कुल transfer नहीं होती। मैं उस पर दाँव नहीं लगाऊँगा
    • नई mathematical progress को दुनिया के शीर्ष 100~1,000 लोगों के स्तर के बराबर मानना शायद इस बात की गलत समझ है कि mathematicians वास्तव में क्या करते हैं

  • नाम तक सार्वजनिक न किए गए internal AI की क्षमता प्रभावशाली है, लेकिन मानव contributors के नाम कहीं भी नहीं हैं। कम से कम किसी ने तो इस मॉडल के लिए कॉफ़ी बनाई ही होगी

    • यह स्पष्ट लिखा है कि नतीजे अगले बड़े मॉडल Astra के internal version से हासिल किए गए

  • सोच रहा हूँ कि mathematicians और engineers की salary तक जोड़ें तो इस research की कुल लागत कितनी रही होगी

    • अगर लगातार किसी इंसान को बैठकर इसकी देखभाल नहीं करनी पड़ी, तो पूरी salary जोड़ने का कारण नहीं बनता। सिर्फ़ execution environment, prompt setup, और result verification में लगा समय गिनना चाहिए; model training cost तो दूसरे उपयोगों में भी बाँटी जाती है
    • OpenAI अपने कर्मचारियों को stock से compensate करता है, इसलिए संख्या बहुत बड़ी होगी, लेकिन मौजूदा स्थिति में जहाँ infrastructure और trained model पहले से मौजूद हैं, यह बहुत अर्थपूर्ण आँकड़ा नहीं है। AI अगर और आगे न भी बढ़े, तब भी यह पहले से ही बेहद disruptive है
    • कहा गया है कि इन 10 breakthroughs के proofs generate करने की लागत Sol API pricing के हिसाब से 2,000 डॉलर से कम थी
      https://x.com/polynoamial/status/2083470822258467194

  • सोचता हूँ कि अगर OpenAI जैसी कंपनियाँ ऐसे नतीजों को प्रकाशित न करके बस training data में शामिल करना शुरू कर दें तो क्या होगा

    • pure math को गुप्त रखने से औद्योगिक मूल्य लगभग नहीं के बराबर है, और कंपनी के लिए इसका उपयोग मुख्यतः model capability दिखाने भर का है। व्यावहारिक रूप से ज़्यादा संभावना यह है कि वे research funding बंद कर दें
      भले ही मतलब यह हो कि वे इसे चुपचाप model improvement में इस्तेमाल करें, कुछ सही proofs से मिलने वाला अतिरिक्त लाभ मामूली होगा, और अंततः यह मॉडल से निकलकर बाहर आने की संभावना भी रखता है
    • क्योंकि ये अब तक अनसुलझी समस्याएँ थीं, इसलिए कोई मौजूदा solution था ही नहीं; ऐसे में इसे training में डालने का मतलब क्या होगा, यह स्पष्ट नहीं है

  • OpenAI जैसी जगहें experts को व्यवहार में लाखों डॉलर के बराबर tokens इस्तेमाल करने दे सकती हैं। वे दिन के 24 घंटे अपनी सारी compute capacity बेच नहीं रहे होते, इसलिए उनकी internal cost ज़्यादातर बिजली के बिल के क़रीब ही होगी
    फिर भी अगर compute resources पूरी तरह इस्तेमाल नहीं हो रहे, तो सवाल उठता है कि आगे बनने वाले इतने सारे datacenters क्या सच में ज़रूरी हैं

    • OpenAI में research ही marketing है, इसलिए उन्होंने इसके लिए पर्याप्त budget दिया होगा
    • कुल output की तुलना में यह rounding error के स्तर का हो सकता है। वे public models पर usage limit लगाकर research compute सुरक्षित रखते हैं, और datacenters बढ़ने पर वे limits भी कम कर सकते हैं
    • reinforcement learning training तो पूरी compute capacity इस्तेमाल कर सकती है, इसलिए किस आधार पर कहा जा रहा है कि इसकी ज़रूरत नहीं है, समझ नहीं आता
    • इस बात से कि math को आगे बढ़ाने के लिए spare compute उपलब्ध थी, यह निष्कर्ष निकालना कि datacenters की ज़रूरत नहीं है, ज़बरदस्ती का तर्क है। बल्कि इस खबर से तर्कसंगत निष्कर्ष तो यही निकलता है कि और ज़्यादा datacenters चाहिए