Tesla AI day पर विचार
(facebook.com)<p>1. AI में 2010 का दशक और 2020 का दशक साफ़ तौर पर अलग हैं। GPU के इस्तेमाल के साथ AI का एक नया युग शुरू हुआ<br />
2. Deep learning देखने में भले ही promising लगती थी, लेकिन उसे train करने का तरीका नहीं था। फिर goldfish (=GPU) पकड़कर उसे train कराया तो कुछ काम होने लगा। लेकिन goldfish तो goldfish ही है<br />
3. चूँकि कम-अक्ल goldfish से बात नहीं बनने वाली थी, तो चलिए उसे ज़्यादा बुद्धिमान बनाते हैं। यहीं पर OpenAI आता है<br />
→ अगर कम-अक्ल goldfish काम नहीं करती, तो 10,000 goldfish पकड़कर उनके सिर जोड़कर उसे dolphin के सिर जितना बड़ा बना देते हैं<br />
→ लेकिन यह पढ़ाई बहुत अच्छी करता है। सिर अच्छा हो गया तो आप उल्टा-सीधा बोलें, तब भी यह बात सही समझ लेता है <br />
→ Transformer नाम की एक training method से मानो पूरी दुनिया जीत ली<br />
4. समस्या यह है कि goldfish के सिर जोड़ना आसान काम नहीं है। Nvidia भी अभी इस पर पूरी तरह तैयार नहीं है<br />
5. इस समय AI की असली core competitiveness model नहीं है<br />
→ 10,000 goldfish खरीदने के लिए पैसे (नया A100 एक कार्ड $10,000 का है, तो 10,000 कार्ड हों तो सिर्फ GPU पर ही 100 अरब won)<br />
→ जुड़े हुए goldfish के सिरों को एक dolphin के सिर की तरह संभालने की तकनीक <br />
→ वह data जिस पर ये 10,000 goldfish train होंगी<br />
6. आखिरकार वह दौर खत्म हो गया है जब अलग-अलग AI कंपनियाँ इधर-उधर से कुछ goldfish बटोरकर training method पर मेहनत किया करती थीं<br />
→ नया fish brain बनाना, उसे जोड़ना, और उसे dolphin की तरह चलाना — यह सब Google अकेले करता था<br />
7. Tesla ने आज यही दिखाया<br />
→ Nvidia वाली goldfish खास नहीं है, इसलिए हमने नई काली fish बनाई है<br />
→ जोड़ना आसान हो, इसके लिए बहुत सारे holes भी बनाए और सिर को भी अच्छे से तराशा <br />
→ अब इससे robot भी control किया जा सकता है!<br />
<br />
यह एक दिलचस्प व्याख्यात्मक लेख है, इसलिए मूल पोस्ट ज़रूर देखें</p>
5 टिप्पणियां