दिलचस्प है कि Karpathy और Sutskever अब दोनों OpenAI छोड़ चुके हैं
अब OpenAI Sam Altman और Greg Brockman के इर्द-गिर्द चलती दिखती है
उन चार लोगों में Karpathy और Sutskever सबसे प्रभावशाली लगे थे, और उम्मीद है वे आगे भी बड़े काम करेंगे
शीर्ष 6 वैज्ञानिक काफी पहले ही जा चुके थे, और OpenAI अब marketing, business, software और productization वाले लोगों द्वारा चलाई जाने वाली कंपनी बन गई है
जब deep learning innovation की अगली लहर दुनिया पर छा जाएगी, तो लगता है Microsoft बचा-खुचा उठा लेगा
पैसा तो बहुत बनेगा, लेकिन जो खोया है उसकी भरपाई नहीं हुई तो भविष्य नहीं दिखता
Karpathy अब भी machine learning/AI क्षेत्र के दिग्गज हैं, और Twitter/X पर लगातार follow करने लायक गिने-चुने लोगों में से एक हैं
मुझे लगता है Dario को भी पर्याप्त श्रेय नहीं मिलता
Karpathy सच में बहुत पसंद हैं
वे पुराने ढंग के बहुविद् विद्वान और शिक्षक जैसे व्यक्ति हैं
दिमाग में जो scenario बनता है वह यह है कि Google IO से पहले नया model launch करने के लिए safety team के विरोध को दबाया गया
तथाकथित superalignment भी इसी तरह गायब होता दिख रहा है
Ilya, Jan Leike, William Saunders, Leopold Aschenbrenner सभी जा चुके हैं
वे “Bad universal priors and notions of optimality” लिखने वाले व्यक्ति हैं, और Hutter के MIRI program के साथ कुछ वैसा ही किया था जैसा Gödel ने Hilbert program के साथ किया था
Toronto University के आसपास चलते समय, मैं अक्सर करीब 10 साल पहले का वह दृश्य याद करता हूं जब Ilya, Alex के बगल वाली lab में कुछ समझने की कोशिश कर रहे थे
यकीन नहीं होता कि AI की यह नई लहर वहीं से शुरू हुई
Ilya, Karpathy, Jimmy Ba समेत कई लोग Hinton के समय ठीक वहीं मौजूद थे
उस समय Toronto University सचमुच कमाल की थी
उसी group से GPU-based bitcoin mining का version भी निकला था
2014 के आसपास Ethereum भी उसी इलाके में पैदा हुआ, और Queen और Spadina के पास Vitalik के साथ शुरुआती Ethereum meetups याद हैं
लेकिन जैसा किसी और ने कहा, deep learning के पिता Geoffrey Hinton और Ilya, Vitalik जैसे लोगों के होते हुए भी हमें उससे कोई खास वास्तविक फायदा नहीं मिला
लेकिन उनमें से किसी ने भी Toronto में AI company नहीं बनाई
एक Canadian के रूप में यह निराशाजनक है कि हम सफल कंपनियां बनाने में इतने अक्षम हैं
उस ouster attempt के बाद यह लगभग तय ही लग रहा था, और शायद वे exit details तय कर रहे होंगे
लेकिन नई feature announcement के ठीक अगले दिन?
हो सकता है पिछले agreement का हिस्सा रहा हो कि “अगर आप अगले major feature को launch तक ले आएं, तो हम आपको अच्छी तरह विदा करेंगे”
उन्होंने interview में कहा था कि समझ के अगले चरण तक पहुंचने के लिए end-to-end multimodal learning जरूरी है, इसे देखते हुए मुझे लगता है Omni उनका काम था
वे कुछ समय से इस पर सोच रहे होंगे, और launch के साथ उन पर attention बढ़ने पर शायद उनसे फैसला मांगा गया होगा
यह चतुर चाल भी हो सकती है
Google IO के आसपास OpenAI की खबर बीच में आकर Google की spotlight ले गई, और अभी बड़ा announcement हुआ था इसलिए negative news का झटका भी थोड़ा कम हुआ
नई feature announcement के बाद अगर departure की खबर आए, तो लोग दूसरे समय की तुलना में उस पर अपेक्षाकृत कम ध्यान देते हैं
आदर्शवादी लोगों की यह आम किस्मत है कि वे महान चीजें बनाते हैं और फिर power struggle में management द्वारा किनारे कर दिए जाते हैं
यह कितनी बार दोहराया गया है?
कितनी बार? यही तो मानवता के सबसे सफल economic model की बुनियाद है
कुछ लोग शायद किनारे न किए जाएं, लेकिन clueless head—जिसकी million-dollar smile हो और जो अज्ञानी लोगों और billion-dollar wallet वालों से deal करता हो—की तुलना में उन्हें उनके योगदान का पर्याप्त श्रेय कभी नहीं मिलता
फिर भी हमें भगवान या प्रकृति का शुक्रगुजार होना चाहिए कि हमारी species में ऐसे लोग मौजूद हैं जो चीजों को समझते और बनाते हैं
क्रांति के लिए जिन लोगों की जरूरत होती है और क्रांति के बाद जिनकी जरूरत होती है, वे एक जैसे नहीं होते
“general-purpose AI को सभी के लिए लाभकारी बनाना” नया Don’t Be Evil है
“हम AI आपके हाथों में देना चाहते हैं”
संभालकर रखने के लिए?
नहीं! आखिर आपने ऐसा क्यों सोचा, खलनायक कहीं के…
OpenAI का मतलब है मोटे rubber gloves और plexiglass के पार हाथ फैलाकर AI की एक और dose की भीख मांगना
समझ नहीं आता कि technologists की job changes को major league sports teams के roster changes की तरह क्यों treat किया जाता है
क्या ये “name-dropped” influencers smart हैं? बिल्कुल
लेकिन smart होना इतना दुर्लभ नहीं है
ये लोग भी यहां मौजूद अधिकांश लोगों की तरह technologists हैं, और खास तौर पर ज्यादा smart होने के बजाय career direction और specialization में भाग्यशाली रहे
वे business geniuses नहीं हैं, बस roles निभाने वाले लोग हैं
क्या leadership changes business को प्रभावित करती हैं? कुछ हद तक करेंगी, लेकिन AI personalities के इर्द-गिर्द gossip जैसी hype से जितना अंदाजा लगाया जाता है, उसका शायद 5%
अब काफी हो गया
technology को देखें, असली काम को देखें
ये लोग अपनी तनख्वाह वाली जगह बदलते हैं, इससे professionally प्रभावित होने वालों की संख्या 50% की तुलना में 0 के बहुत करीब है
नहीं, ये company को define करने वाले लोग हैं, और ऐसी positions कहीं कम replaceable होती हैं तथा खुद बनाई हुई भूमिकाएं होती हैं
अगला ठिकाना Meta होगा क्या?
AI division में बहुत पैसा जा रहा है, compute resources भी बहुत हैं, और लगता है वे अपनी मनचाही research कुछ भी कर सकते हैं
संभावना कम है
internal politics ही ज्यादातर लोगों को पागल कर देने के लिए काफी है
जिन लोगों ने पिछले 10 साल breakthrough work को दिए, उनका जाना महत्वहीन नहीं हो सकता
यह मानना गलती है कि उनकी किस्मत चलती रहेगी और यह departure OpenAI के decline का signal नहीं है
शायद अभी reputation की value है, इसलिए cash out कर लेना बेहतर हो
नए रास्ते खोलने की संभावना अब दूसरी teams में ज्यादा दिखती है
1 टिप्पणियां
Hacker News की राय
दिलचस्प है कि Karpathy और Sutskever अब दोनों OpenAI छोड़ चुके हैं
अब OpenAI Sam Altman और Greg Brockman के इर्द-गिर्द चलती दिखती है
उन चार लोगों में Karpathy और Sutskever सबसे प्रभावशाली लगे थे, और उम्मीद है वे आगे भी बड़े काम करेंगे
जब deep learning innovation की अगली लहर दुनिया पर छा जाएगी, तो लगता है Microsoft बचा-खुचा उठा लेगा
पैसा तो बहुत बनेगा, लेकिन जो खोया है उसकी भरपाई नहीं हुई तो भविष्य नहीं दिखता
वे पुराने ढंग के बहुविद् विद्वान और शिक्षक जैसे व्यक्ति हैं
Jan Leike ने भी बताया है कि वे जा रहे हैं https://twitter.com/janleike/status/1790603862132596961
Ilya, Jan Leike, William Saunders, Leopold Aschenbrenner सभी जा चुके हैं
Toronto University के आसपास चलते समय, मैं अक्सर करीब 10 साल पहले का वह दृश्य याद करता हूं जब Ilya, Alex के बगल वाली lab में कुछ समझने की कोशिश कर रहे थे
यकीन नहीं होता कि AI की यह नई लहर वहीं से शुरू हुई
Ilya, Karpathy, Jimmy Ba समेत कई लोग Hinton के समय ठीक वहीं मौजूद थे
उसी group से GPU-based bitcoin mining का version भी निकला था
2014 के आसपास Ethereum भी उसी इलाके में पैदा हुआ, और Queen और Spadina के पास Vitalik के साथ शुरुआती Ethereum meetups याद हैं
लेकिन जैसा किसी और ने कहा, deep learning के पिता Geoffrey Hinton और Ilya, Vitalik जैसे लोगों के होते हुए भी हमें उससे कोई खास वास्तविक फायदा नहीं मिला
एक Canadian के रूप में यह निराशाजनक है कि हम सफल कंपनियां बनाने में इतने अक्षम हैं
उस ouster attempt के बाद यह लगभग तय ही लग रहा था, और शायद वे exit details तय कर रहे होंगे
लेकिन नई feature announcement के ठीक अगले दिन?
Google IO के आसपास OpenAI की खबर बीच में आकर Google की spotlight ले गई, और अभी बड़ा announcement हुआ था इसलिए negative news का झटका भी थोड़ा कम हुआ
Jakub Pachocki शानदार हैं
वे Polish algorithm competitions में top 20 में रहे थे
https://oi.edu.pl/contestants/Jakub%20Pachocki/
मैं बिल्कुल connect नहीं कर पाया था
[1] https://codeforces.com/profile/meret
आदर्शवादी लोगों की यह आम किस्मत है कि वे महान चीजें बनाते हैं और फिर power struggle में management द्वारा किनारे कर दिए जाते हैं
यह कितनी बार दोहराया गया है?
कुछ लोग शायद किनारे न किए जाएं, लेकिन clueless head—जिसकी million-dollar smile हो और जो अज्ञानी लोगों और billion-dollar wallet वालों से deal करता हो—की तुलना में उन्हें उनके योगदान का पर्याप्त श्रेय कभी नहीं मिलता
फिर भी हमें भगवान या प्रकृति का शुक्रगुजार होना चाहिए कि हमारी species में ऐसे लोग मौजूद हैं जो चीजों को समझते और बनाते हैं
“general-purpose AI को सभी के लिए लाभकारी बनाना” नया Don’t Be Evil है
संभालकर रखने के लिए?
नहीं! आखिर आपने ऐसा क्यों सोचा, खलनायक कहीं के…
OpenAI का मतलब है मोटे rubber gloves और plexiglass के पार हाथ फैलाकर AI की एक और dose की भीख मांगना
समझ नहीं आता कि technologists की job changes को major league sports teams के roster changes की तरह क्यों treat किया जाता है
क्या ये “name-dropped” influencers smart हैं? बिल्कुल
लेकिन smart होना इतना दुर्लभ नहीं है
ये लोग भी यहां मौजूद अधिकांश लोगों की तरह technologists हैं, और खास तौर पर ज्यादा smart होने के बजाय career direction और specialization में भाग्यशाली रहे
वे business geniuses नहीं हैं, बस roles निभाने वाले लोग हैं
क्या leadership changes business को प्रभावित करती हैं? कुछ हद तक करेंगी, लेकिन AI personalities के इर्द-गिर्द gossip जैसी hype से जितना अंदाजा लगाया जाता है, उसका शायद 5%
अब काफी हो गया
technology को देखें, असली काम को देखें
ये लोग अपनी तनख्वाह वाली जगह बदलते हैं, इससे professionally प्रभावित होने वालों की संख्या 50% की तुलना में 0 के बहुत करीब है
अगला ठिकाना Meta होगा क्या?
AI division में बहुत पैसा जा रहा है, compute resources भी बहुत हैं, और लगता है वे अपनी मनचाही research कुछ भी कर सकते हैं
internal politics ही ज्यादातर लोगों को पागल कर देने के लिए काफी है
जिन लोगों ने पिछले 10 साल breakthrough work को दिए, उनका जाना महत्वहीन नहीं हो सकता
यह मानना गलती है कि उनकी किस्मत चलती रहेगी और यह departure OpenAI के decline का signal नहीं है
शायद अभी reputation की value है, इसलिए cash out कर लेना बेहतर हो
नए रास्ते खोलने की संभावना अब दूसरी teams में ज्यादा दिखती है