AI को सिर्फ प्रतिक्रिया देने के बजाय प्रोएक्टिव तरीके से काम करने लायक बनाने के आइडिया के साथ हाल ही में YC batch में आवेदन किया था, और उससे पहले Epoch AI के डेटा के अनुरूप recursive self-improvement पर एक paper सार्वजनिक किया था
इसी तरह का research कर रहे UK के एक university professor से संपर्क किया और करीब एक घंटे तक अलग-अलग assumptions, methods और overlap करने वाले results पर चर्चा की
अगर कोई undergraduate physics student भी independent research करे और experts से बात करे, तो वह ऐसे लोगों से जुड़ सकता है जिनसे आम तौर पर मिलना मुश्किल होता; इसलिए कोई युवा किसी भी business में उतरे, research networking का अच्छा माध्यम बनता है
बड़े research labs papers प्रकाशित करना इसलिए भी बंद करते हैं। Publishing तब सबसे valuable होती है जब होशियार अजनबियों का ध्यान खींचने का कोई और तरीका न हो, लेकिन जब आप किसी को भी hire कर सकते हों और हर कोई आपका call उठा लेता हो, तब इसका मुख्य असर बस इतना रह जाता है कि competitors को बता दिया जाए कि सफल कैसे हुए
विज्ञान जब-जब industry में बदलता है, ऐसा ही होता है। Chemists भी खुलकर publish करते थे, फिर dyes से पैसा बनने लगा तो दिलचस्प research corporate labs में चली गई और public नहीं रही
LinkedIn को professionals के लिए ऐसा connection platform होना चाहिए था, लेकिन अफसोस है कि अब यह engagement bait और entrepreneur बनने का दिखावा करने वालों से भरी जगह बन गया है
शुरुआत research से हुई हो या नहीं, खुद को सामने रखना और दूसरों से बातचीत करना career और personal growth के लिए सबसे बुनियादी रूप से जरूरी है
यहां जिस proactive AI की बात हो रही है, वह असल में क्या है, इसके बारे में और सुनना चाहूंगा
मुझे लगता है recursive self-improvement अंत की शुरुआत है
मैंने वास्तव में दुनिया में पहली बार basic research करने वाले दो startups में काम किया है। पहली company ने नए results को top-tier journal में छपवाने के लिए 3 साल कोशिश की, आखिरकार preprint के रूप में जारी किया और journal का विचार छोड़ दिया
मौजूदा दूसरी company उस अनुभव की वजह से कुछ भी publish नहीं करती, और यह भी चाहती है कि OpenAI या Anthropic results copy करके 6 महीने के काम को बेकार न कर दें। Papers सिर्फ investor pitch materials के साथ ही दिए जाते हैं
Startups को frontier research सार्वजनिक करने से मिलने वाले फायदे बहुत कम हैं और इसे defend करना भी मुश्किल है। जिन companies पर risk नहीं है उनके लिए यह दिखावे का साधन हो सकता है, लेकिन startups के लिए समस्या बन जाता है
क्या research सार्वजनिक करने का उद्देश्य ही यह नहीं है कि दूसरे लोग उसे replicate करें?
अगर आप tenure या research funding की जरूरत वाले academic नहीं हैं, तो journals को छोड़कर सीधे paper publish कर सकते हैं। असली बात research share करना है
सोच रहा हूं कि क्या लेख उसी phenomenon की बात कर रहा है जहां AI startups journals के बजाय blogs पर discoveries जारी करते हैं। यह भी सवाल है कि journals इतने slow, rigid और exploitative हैं कि इस industry में अब उनका कोई उपयोग नहीं रह गया है क्या
Top computer science conferences में paper भेजने के लिए, किसी narrow field में PhD track से न गुजरे व्यक्ति को insider language और formalism इस्तेमाल करना पड़ता है, जिन तक पहुंच मुश्किल होती है
विडंबना यह है कि LLM यह काम काफी अच्छी तरह करते हैं, जिससे outsider द्वारा लिखा वास्तव में अच्छा paper, AI द्वारा बनाए low-quality paper से बेहतर evaluation पाने की संभावना कम हो जाती है
AI research की blogification से social media जैसी ही तरह हर तरह के claims और terms पैदा होकर फैलने लगे हैं, और यह healthy नहीं है
Gamified माहौल में कई experiments चला कर निकले कुछ numbers जोड़ दें तो किसी भी बात को support किया जा सकता है, और हम तेजी से उस stage में जा रहे हैं जहां इसका वास्तविक अर्थ है या नहीं, इस पर लगभग ध्यान नहीं दिया जाता। यह कचरा अगले model के training data में जाता है, और वह model फिर models और blogs/papers बनाता है—यह vicious cycle किसी library में termites छोड़ देने जैसा है
उस stage पर हम 10 साल पहले ही, शायद उससे भी बहुत पहले पहुंच चुके थे। फर्क बस इतना है कि अब इस game में बहुत ज्यादा लोग शामिल हो रहे हैं, बिना उस social training के जो इसे सहने लायक बनाती थी
फिर भी यह पूरी तरह बुरा नहीं है; लगातार नए participants आने का दौर परेशान करता है, लेकिन उनके जाने के बाद कभी-कभी याद भी आता है
मौजूदा research publishing से फर्क आखिरकार सिर्फ speed का ही है क्या?
लेख ने paper में आई companies को अस्पष्ट रखा है। Cumulative citations में OpenAI सबसे ऊपर है, उसके बाद MEGVII, Hugging Face, Waymo, Momenta, Preferred Networks, Anthropic, Owkin, Databricks, Aibee हैं
यह publication count नहीं बल्कि citation count है, और authors ने कहा है कि इसे अपूर्ण लेकिन importance के proxy metric के रूप में इस्तेमाल किया गया। Google जैसी companies को इसलिए बाहर रखा गया क्योंकि वे unicorn startups नहीं हैं
मेरी समझ है कि researchers को performance quota पूरा करने और पद बनाए रखने के लिए papers publish करने पड़ते हैं। जब तक OpenAI या Anthropic उन्हें research career छोड़ने लायक बहुत पैसा नहीं देते, वे publish करते रहेंगे, इसलिए इसे company की goodwill मानना मुश्किल है
Google ने काफी research public की है; खास तौर पर Transformer और Attention research को क्यों open किया, यह अब भी सोचने वाली बात है। शुरुआत में वह translation के लिए रहा होगा, या शायद researchers तक ने उसकी वास्तविक potential नहीं पहचानी होगी
मैं Databricks को Spark hosting company के रूप में जानता था; समझ नहीं आता कि किस वजह से उसे top AI startup माना गया है
Paper असल में यह नहीं बताता लगता कि papers प्रकाशित न करने वाली companies कौन हैं। OpenAI, Anthropic, Hugging Face को तो उल्टा publish करने वाली companies के रूप में explicitly बताया गया है, इसलिए “top AI startups” देखकर तुरंत OpenAI और Anthropic के बारे में नहीं सोचना चाहिए
Title देखकर जो सवाल सबके मन में आएगा, paper उसका ठीक से जवाब नहीं देता। OpenAI citation count में नंबर 1 है, लेकिन पुराने और influential papers में citations जमा होते रहते हैं, और एक समय OpenAI ज्यादा open भी था
Altman के बाद direction change के बावजूद अभी योगदान है या नहीं, यह पता नहीं चलता; और 2025 के बाद के papers को explicitly exclude किया गया है, जिससे जिस चीज में असल दिलचस्पी है—latest frontier research तक पहुंच—उसे समझना मुश्किल है। Repository यहां है: https://github.com/q5loisel/unicorn-AI-startup-publications
AI company होने से कोई automatically research company नहीं बन जाती। पिछले कुछ वर्षों में बने ज्यादातर startups commercial purposes के लिए दूसरों द्वारा बनाए models इस्तेमाल करते हैं, इसलिए उनसे scientific papers की उम्मीद करने की कोई वजह नहीं है
उल्टा अगर 50% startups public research में योगदान दे रहे हैं, तो यह उम्मीद से कहीं बेहतर result है
Free market incentives पर ही भरोसा नहीं किया जा सकता, इसलिए science को public funding दी जाती है। Companies के पास competitors के साथ information share करने की वजह बहुत कम होती है
अगर दूसरे सबसे बड़े player का नाम OpenAI है, तो कुछ हद तक paper publication की उम्मीद हो ही जाती है
व्यापक industry का विश्लेषण करने वाला एक अच्छा paper यह भी समझाता है कि अच्छे ideas ढूंढना लगातार कठिन होता जा रहा है—ऐसा पिछली research में क्यों दिखा था।
अमेरिका में researchers की संख्या बढ़ने के बावजूद productivity growth rate के स्थिर रहने की घटना से अलग, 45 वर्षों तक अमेरिकी कंपनियों के patents को track करने पर पता चलता है कि R&D input के प्रति औसत patents बढ़े, और input की तुलना में patents की elasticity भी बनी रही या बढ़ी। Ideas यानी patents की बढ़ोतरी और labor productivity के बीच लगातार positive संबंध है, लेकिन ideas की बढ़ोतरी को control करने पर companies की growth rate गिरती है। यानी निष्कर्ष यह है कि innovation activity growth को सहारा देने की भूमिका पिछले 40 वर्षों में कमजोर नहीं हुई है। https://faculty.tuck.dartmouth.edu/uploads/teresaFort/files/...
यह विडंबना है कि अगर Google ने Attention Is All You Need प्रकाशित नहीं किया होता, तो आज के AI startups में से कोई भी मौजूद नहीं होता।
2015 के https://research.google/pubs/distilling-the-knowledge-in-a-n... को देखें, तो हो सकता है यह विडंबना अभी खुल ही रही हो।
Google स्वतंत्र frontier model arms race को आर्थिक रूप से अविवेकपूर्ण मानते हुए भी, उस क्षमता को strategic रूप से आवश्यक समझता रहा होगा। संभव है उसकी long-term strategy यह हो कि सबसे बड़े models को सिर्फ capability production factory की तरह इस्तेमाल करने लायक बनाया जाए, और उनकी intelligence को बहुत अधिक संख्या में सस्ते, purpose-specific models में बदला जाए।
अगर Google को यह पता था, तो उसने इसे शुरू से secret weapon क्यों नहीं बनाया—इसका कारण यह हो सकता है कि उसने arms race का अनुमान लगा लिया था और यह भी जानता था कि उस प्रक्रिया में profit कैसे कमाया जाए। Distillation paper Transformer paper से पहले आया था, इसे देखते हुए शायद यह विडंबना नहीं बल्कि स्वाभाविक परिणाम हो।
अगर open research नहीं होती, तो Google खुद भी आज की स्थिति में नहीं होता। द्वितीय विश्व युद्ध से पहले radiation science की तरह, जब तक दुनिया बदलने की क्षमता का पता नहीं था, तब तक freely publish किया जाता था; लेकिन government interest बनने के बाद weapons से असंबंधित researchers भी अपने results छिपाने लगे।
उस paper के सभी authors अब Google के बजाय AI companies में हैं।
वह paper भी कई ऐसे ideas पर आधारित था जो पहले से काफी करीब आ चुके थे। यह शानदार discovery है, लेकिन कई discoveries की तरह giants के कंधों पर खड़ी है।
पूरा AI industry open research पर बना है, लेकिन मौजूदा wave इसके विपरीत है और arms race के बहाने चल रही लालच से प्रेरित लगती है।
open research की भूमिका स्वीकार करने वाली नई ESG policy की जरूरत है, लेकिन आज के धुंधले माहौल में लगता है कि ESG और दूसरी norms सब पीछे धकेल दिए गए हैं।
computing industry की value का बड़ा हिस्सा इस वजह से बना कि smart लोगों ने सहयोग किया और पहली discovery की value पर monopoly करने के बजाय methods को公開 करने का विकल्प चुना। यह मौजूदा AI boom से करीब आधी सदी पहले की बात है।
हालांकि मेरे मामले में यह लालच के बिल्कुल उलट है। working principles, problem-solving outputs, और educational content share करनी हो तो बस खुद publish किया जा सकता है, लेकिन academia-approved institutions के framework में ऐसा करना थकाऊ और ध्यान भटकाने वाला है।
यहां “research publication” का मतलब HTML pages और source code डालना नहीं, बल्कि communication की एक बहुत खास और political प्रक्रिया है। वह prestige race केवल career के उन stages पर मायने रखती है जहां इसकी जरूरत होती है, और कुछ हद तक यह वास्तविक scientific process की नकल करने वाले cargo cult जैसी है।
बहुत सारी बेहतरीन public-funded research भी है, लेकिन Attention Is All You Need और OpenAI के कई key papers private funding से बने थे, और research में citations के लिहाज से OpenAI नंबर 1 है। Open research के बारे में की गई premise evidence से मेल न खा सकती है।
कुछ companies research share करती हैं, लेकिन वे आम तौर पर अमेरिकी companies नहीं हैं; उदाहरण के लिए https://arxiv.org/abs/2607.24653। DeepMind, Nvidia, Thinking Machines आदि exceptions हैं।
peer-reviewed publication process झंझट भरी है, knowledge transfer की efficiency को maximize नहीं करती, और communication से ज्यादा credentials और authority के certification जैसी है; उसकी prestige का फायदा भी companies की तुलना में individuals को ज्यादा मिलता है।
blog-style publications में unverified garbage बहुत होता है, लेकिन peer-reviewed research में भी low-quality results बहुत हैं, इसलिए knowledge source चाहे जो हो, signal-to-noise ratio दशकों से खराब रहा है।
अच्छी research publish करने पर competitors उसे कई तरीकों से इस्तेमाल कर लेते हैं और intellectual property rights enforce करना भी practically impossible होता है, इसलिए यह pure cost department बन जाता है। computer science के कुछ fields में state-of-the-art technology दशकों तक trade secrets में दबी रही, जिससे academic literature शर्मनाक रूप से पीछे रह गया।
publishing में time और money लगते हैं, लेकिन researchers interesting problems solve करना चाहते हैं और companies research की usefulness maximize करना चाहती हैं, इसलिए publishing किसी भी side की मदद नहीं करती। बहुत सारी basic research भी papers के लिए नहीं, बल्कि problems solve करने के लिए होती है; solve होने के बाद अगली problem पर बढ़ जाते हैं।
frontier research में national security considerations भी हमेशा साथ रहते हैं। यह सब incentive structure का परिणाम है, और basic research का बड़ा हिस्सा अब academia में नहीं हो रहा। मुझे भी non-public research programs में मजा आया, और मैंने जो interesting basic research खुद की, वह भी publish करने लायक नहीं थी, क्योंकि उद्देश्य reputation नहीं बल्कि solve किए जाने वाले problems थे।
1 टिप्पणियां
Hacker News की राय
AI को सिर्फ प्रतिक्रिया देने के बजाय प्रोएक्टिव तरीके से काम करने लायक बनाने के आइडिया के साथ हाल ही में YC batch में आवेदन किया था, और उससे पहले Epoch AI के डेटा के अनुरूप recursive self-improvement पर एक paper सार्वजनिक किया था
इसी तरह का research कर रहे UK के एक university professor से संपर्क किया और करीब एक घंटे तक अलग-अलग assumptions, methods और overlap करने वाले results पर चर्चा की
अगर कोई undergraduate physics student भी independent research करे और experts से बात करे, तो वह ऐसे लोगों से जुड़ सकता है जिनसे आम तौर पर मिलना मुश्किल होता; इसलिए कोई युवा किसी भी business में उतरे, research networking का अच्छा माध्यम बनता है
विज्ञान जब-जब industry में बदलता है, ऐसा ही होता है। Chemists भी खुलकर publish करते थे, फिर dyes से पैसा बनने लगा तो दिलचस्प research corporate labs में चली गई और public नहीं रही
मैंने वास्तव में दुनिया में पहली बार basic research करने वाले दो startups में काम किया है। पहली company ने नए results को top-tier journal में छपवाने के लिए 3 साल कोशिश की, आखिरकार preprint के रूप में जारी किया और journal का विचार छोड़ दिया
मौजूदा दूसरी company उस अनुभव की वजह से कुछ भी publish नहीं करती, और यह भी चाहती है कि OpenAI या Anthropic results copy करके 6 महीने के काम को बेकार न कर दें। Papers सिर्फ investor pitch materials के साथ ही दिए जाते हैं
विडंबना यह है कि LLM यह काम काफी अच्छी तरह करते हैं, जिससे outsider द्वारा लिखा वास्तव में अच्छा paper, AI द्वारा बनाए low-quality paper से बेहतर evaluation पाने की संभावना कम हो जाती है
AI research की blogification से social media जैसी ही तरह हर तरह के claims और terms पैदा होकर फैलने लगे हैं, और यह healthy नहीं है
Gamified माहौल में कई experiments चला कर निकले कुछ numbers जोड़ दें तो किसी भी बात को support किया जा सकता है, और हम तेजी से उस stage में जा रहे हैं जहां इसका वास्तविक अर्थ है या नहीं, इस पर लगभग ध्यान नहीं दिया जाता। यह कचरा अगले model के training data में जाता है, और वह model फिर models और blogs/papers बनाता है—यह vicious cycle किसी library में termites छोड़ देने जैसा है
फिर भी यह पूरी तरह बुरा नहीं है; लगातार नए participants आने का दौर परेशान करता है, लेकिन उनके जाने के बाद कभी-कभी याद भी आता है
लेख ने paper में आई companies को अस्पष्ट रखा है। Cumulative citations में OpenAI सबसे ऊपर है, उसके बाद MEGVII, Hugging Face, Waymo, Momenta, Preferred Networks, Anthropic, Owkin, Databricks, Aibee हैं
यह publication count नहीं बल्कि citation count है, और authors ने कहा है कि इसे अपूर्ण लेकिन importance के proxy metric के रूप में इस्तेमाल किया गया। Google जैसी companies को इसलिए बाहर रखा गया क्योंकि वे unicorn startups नहीं हैं
Paper असल में यह नहीं बताता लगता कि papers प्रकाशित न करने वाली companies कौन हैं। OpenAI, Anthropic, Hugging Face को तो उल्टा publish करने वाली companies के रूप में explicitly बताया गया है, इसलिए “top AI startups” देखकर तुरंत OpenAI और Anthropic के बारे में नहीं सोचना चाहिए
Altman के बाद direction change के बावजूद अभी योगदान है या नहीं, यह पता नहीं चलता; और 2025 के बाद के papers को explicitly exclude किया गया है, जिससे जिस चीज में असल दिलचस्पी है—latest frontier research तक पहुंच—उसे समझना मुश्किल है। Repository यहां है: https://github.com/q5loisel/unicorn-AI-startup-publications
AI company होने से कोई automatically research company नहीं बन जाती। पिछले कुछ वर्षों में बने ज्यादातर startups commercial purposes के लिए दूसरों द्वारा बनाए models इस्तेमाल करते हैं, इसलिए उनसे scientific papers की उम्मीद करने की कोई वजह नहीं है
उल्टा अगर 50% startups public research में योगदान दे रहे हैं, तो यह उम्मीद से कहीं बेहतर result है
व्यापक industry का विश्लेषण करने वाला एक अच्छा paper यह भी समझाता है कि अच्छे ideas ढूंढना लगातार कठिन होता जा रहा है—ऐसा पिछली research में क्यों दिखा था।
अमेरिका में researchers की संख्या बढ़ने के बावजूद productivity growth rate के स्थिर रहने की घटना से अलग, 45 वर्षों तक अमेरिकी कंपनियों के patents को track करने पर पता चलता है कि R&D input के प्रति औसत patents बढ़े, और input की तुलना में patents की elasticity भी बनी रही या बढ़ी। Ideas यानी patents की बढ़ोतरी और labor productivity के बीच लगातार positive संबंध है, लेकिन ideas की बढ़ोतरी को control करने पर companies की growth rate गिरती है। यानी निष्कर्ष यह है कि innovation activity growth को सहारा देने की भूमिका पिछले 40 वर्षों में कमजोर नहीं हुई है।
https://faculty.tuck.dartmouth.edu/uploads/teresaFort/files/...
यह विडंबना है कि अगर Google ने Attention Is All You Need प्रकाशित नहीं किया होता, तो आज के AI startups में से कोई भी मौजूद नहीं होता।
Google स्वतंत्र frontier model arms race को आर्थिक रूप से अविवेकपूर्ण मानते हुए भी, उस क्षमता को strategic रूप से आवश्यक समझता रहा होगा। संभव है उसकी long-term strategy यह हो कि सबसे बड़े models को सिर्फ capability production factory की तरह इस्तेमाल करने लायक बनाया जाए, और उनकी intelligence को बहुत अधिक संख्या में सस्ते, purpose-specific models में बदला जाए।
अगर Google को यह पता था, तो उसने इसे शुरू से secret weapon क्यों नहीं बनाया—इसका कारण यह हो सकता है कि उसने arms race का अनुमान लगा लिया था और यह भी जानता था कि उस प्रक्रिया में profit कैसे कमाया जाए। Distillation paper Transformer paper से पहले आया था, इसे देखते हुए शायद यह विडंबना नहीं बल्कि स्वाभाविक परिणाम हो।
पूरा AI industry open research पर बना है, लेकिन मौजूदा wave इसके विपरीत है और arms race के बहाने चल रही लालच से प्रेरित लगती है।
open research की भूमिका स्वीकार करने वाली नई ESG policy की जरूरत है, लेकिन आज के धुंधले माहौल में लगता है कि ESG और दूसरी norms सब पीछे धकेल दिए गए हैं।
हालांकि मेरे मामले में यह लालच के बिल्कुल उलट है। working principles, problem-solving outputs, और educational content share करनी हो तो बस खुद publish किया जा सकता है, लेकिन academia-approved institutions के framework में ऐसा करना थकाऊ और ध्यान भटकाने वाला है।
यहां “research publication” का मतलब HTML pages और source code डालना नहीं, बल्कि communication की एक बहुत खास और political प्रक्रिया है। वह prestige race केवल career के उन stages पर मायने रखती है जहां इसकी जरूरत होती है, और कुछ हद तक यह वास्तविक scientific process की नकल करने वाले cargo cult जैसी है।
peer-reviewed publication process झंझट भरी है, knowledge transfer की efficiency को maximize नहीं करती, और communication से ज्यादा credentials और authority के certification जैसी है; उसकी prestige का फायदा भी companies की तुलना में individuals को ज्यादा मिलता है।
blog-style publications में unverified garbage बहुत होता है, लेकिन peer-reviewed research में भी low-quality results बहुत हैं, इसलिए knowledge source चाहे जो हो, signal-to-noise ratio दशकों से खराब रहा है।
अच्छी research publish करने पर competitors उसे कई तरीकों से इस्तेमाल कर लेते हैं और intellectual property rights enforce करना भी practically impossible होता है, इसलिए यह pure cost department बन जाता है। computer science के कुछ fields में state-of-the-art technology दशकों तक trade secrets में दबी रही, जिससे academic literature शर्मनाक रूप से पीछे रह गया।
publishing में time और money लगते हैं, लेकिन researchers interesting problems solve करना चाहते हैं और companies research की usefulness maximize करना चाहती हैं, इसलिए publishing किसी भी side की मदद नहीं करती। बहुत सारी basic research भी papers के लिए नहीं, बल्कि problems solve करने के लिए होती है; solve होने के बाद अगली problem पर बढ़ जाते हैं।
frontier research में national security considerations भी हमेशा साथ रहते हैं। यह सब incentive structure का परिणाम है, और basic research का बड़ा हिस्सा अब academia में नहीं हो रहा। मुझे भी non-public research programs में मजा आया, और मैंने जो interesting basic research खुद की, वह भी publish करने लायक नहीं थी, क्योंकि उद्देश्य reputation नहीं बल्कि solve किए जाने वाले problems थे।