Ask HN: AI/ML क्षमता बढ़ाने के लिए रोज़ाना क्या अभ्यास करें?

 (news.ycombinator.com)
1 पॉइंट द्वारा GN⁺ 2023-12-16 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • जब रोज़ लगभग 1 घंटा AI/ML क्षमता विकसित करने में दे सकते हों, तो समय और ऊर्जा को सबसे बेहतर तरीके से निवेश करने का तरीका खोज रहे हैं
  • विकल्पों के रूप में छोटे प्रोजेक्ट, ब्लॉग/न्यूज़लेटर, कोर्स, पाठ्यपुस्तकें, Kaggle प्रतियोगिताएँ, AI/ML फ़ोरम·कम्युनिटी में भागीदारी, या इनके संयोजन का सुझाव दिया गया है
  • अच्छे software engineers को ML क्षमता बढ़ाने में मदद मिले, इसके लिए जहाँ संभव हो प्रत्येक गतिविधि के समय-वितरण अनुपात या वेटेज भी जानना चाहते हैं

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2023-12-16
Hacker News राय

  • डिग्री अनुभव साझा करना

    • एक अच्छे स्कूल से ML (machine learning) में मास्टर्स डिग्री की। स्कूल में जो सीखा वह अकेले भी सीखा जा सकता था, लेकिन स्कूल ने वह फोकस और दबाव दिया जो अकेले संभव नहीं था।
    • research papers को implement करना सबसे ज़्यादा सीख देने वाला अनुभव था। lectures और textbooks सिर्फ शब्द हैं; वास्तव में करके देखना कहीं गहरी समझ देता है।
    • कई तरह के curriculum सुझाए जा सकते हैं, लेकिन 1 घंटे का केंद्रित problem solving सबसे अच्छा है।
    • कुछ project सुझाव: simple functions सीखने के लिए baby neural network train करना, MNIST digit classifier, किसी विशेष corpus पर GPT2 fine-tune करना, visual similarity मापने के लिए siamese neural network train करना आदि।
    • अपनी neural network और backpropagation खुद लिखने में समय बर्बाद न करें; profiling और debugging tools का इस्तेमाल सीखने की सलाह दी गई।

  • AI researcher और tech founder की सलाह

    • मान लें कि बात latest developments की हो रही है, तो linear path follow न करने की सलाह है। एक course और छोटा project करें, समय सीमा तय करें और उसे पूरा करने की कोशिश करें।
    • कोई दिलचस्प research area खोजें, उससे जुड़ा GitHub code चलाएँ, और उसे बेहतर करने या किसी app में इस्तेमाल करने का तरीका ढूँढें।
    • fast.ai course करने, Karpathy के blog posts पढ़ने, Stanford cs231n और cs234 courses करने का सुझाव दिया गया।
    • अपनी रुचि का कोई project खोजें और उसे चलाएँ।

  • ML के practical उपयोग का महत्व

    • कई comments शायद ML के low-level हिस्सों पर ज़ोर देंगे, लेकिन अभी ML को implementation level पर समझदार लोगों की ज़रूरत है।
    • मौजूदा LLM तकनीक का उपयोग करके ऐसा software बनाना जो आम लोग इस्तेमाल कर सकें, महत्वपूर्ण और ज़रूरी काम है।
    • रोज़मर्रा की practice में application sketch करना, prompts और function calling को compose करना, जो बनाया है उसका marketing करना सीखना, और zero-to-one tools बनाना शामिल है।
    • उदाहरण के तौर पर, Aristotle के समय की commonplacing technique को आज के embeddings युग में लागू करना, और pure MD spec को समझकर streaming generative models को integrate करना बताया गया।

  • AI/ML को रोज़मर्रा के काम में बदलना

    • AI/ML को अपने critical path में रखने का तरीका खोजें। नई language सीखने की तरह, complete immersion जितना असरदार कुछ नहीं है।
    • अगर अभी तक इस क्षेत्र में job पाने लायक आधार नहीं बना है, तो किसी passion project पर काम करना और लगातार नए solutions सोचते रहना अगला सबसे अच्छा तरीका है।
    • आखिर में, फिर से पढ़ाई के लिए स्कूल लौटने पर विचार करें। इसमें रोज़ 1 घंटे से ज़्यादा लगेगा, लेकिन दूसरी learning strategies की तुलना में कहीं तेज़ और ठोस नतीजे मिल सकते हैं।

  • सामान्य ML/AI छात्र का roadmap

    • math, computer science आदि की prerequisites चाहिए। इनमें आम तौर पर calculus, linear algebra, probability and statistics, programming, object-oriented programming, data structures और algorithms शामिल होते हैं।
    • basic ML course के बाद, तेजी से बदलते DL (deep learning) के foundational हिस्से पढ़े जाते हैं।
    • इसके बाद रास्ता ML engineering और ML research में बँटता है। engineering में ML pipeline से जुड़ी technical चीज़ें होती हैं, जबकि research विज्ञान पर ही केंद्रित होती है।
    • जैसा दूसरों ने कहा, tools का इस्तेमाल करके implement करना मज़ेदार भी है और मददगार भी। हर model को खुद implement करने की कोशिश करेंगे तो बहुत मुश्किल हो सकती है।
    • "practical" ML सीखते समय, models को इस तरह implement करने की कोशिश की जाती है कि API के ज़रिए data input हो और result वापस मिले। इसमें data processing, software development और hosting, API development जैसी चुनौतियाँ शामिल हैं।

  • AI/ML की सीमाओं को समझना

    • कल्पना को बहुत ज़्यादा खुला न छोड़ें और AI/ML क्या कर सकता है, इस बारे में overconfidence न रखें।
    • एक बड़ी company में 2 साल ML projects पर काम किया, लेकिन पाया कि वे मौजूदा statistical methods से बेहतर नहीं थे, और ML के "black box" को समझने की क्षमता न होने से process में कोई वास्तविक सुधार नहीं हुआ।
    • ML का बहुत सा काम ऐसे solution जैसा था जो पहले problem ढूँढ रहा हो।
    • databases (SQL और NoSQL) का इस्तेमाल समझना महत्वपूर्ण है। ML का असरदार उपयोग करने के लिए बड़े पैमाने के data पर high-performance programming में बहुत अच्छी skills चाहिए।

  • AI/ML पढ़ने का तरीका

    • Hastie आदि की "An Introduction to Statistical Learning with Applications in R/Python" को शुरू से अंत तक पढ़ें और उसमें बताए गए concepts, ideas, nuances और subtleties को समझें।
    • math/statistics की किताबें पास रखें; जब भी कोई अनजान mathematical technique आए, तुरंत उन किताबों को देखें या छोटे YouTube videos देखकर उसका concept और उपयोग समझें।
    • AI/ML पढ़ने और समझने का यह सबसे सरल और सीधा तरीका है। इस thread में कही गई बाकी सब चीज़ें इसके बाद करनी चाहिए।

  • ML और engineering का मेल

    • ML और engineering के junction को देखें।
    • ML ops, DevOps का उपयोग, ML space में testing और ci/cd, कई GPU पर training कैसे करें, और खास तौर पर बड़े पैमाने पर तथा कम लागत में LLM host कैसे करें, इन पर विचार करें।
    • academia में मज़बूत academic background वाले सैकड़ों उम्मीदवार हैं, लेकिन उनकी महत्वाकांक्षाओं को वास्तविकता में बदलने वाले experienced engineers बहुत कम हैं।

  • Deep learning पर फोकस

    • ज़्यादातर LLM transformer architecture का उपयोग करते हैं। इसे visual तरीक़े से सीखा जा सकता है, या blog posts तथा Andrej Karpathy के posts और materials के ज़रिए समझा जा सकता है।
    • हर हफ्ते प्रकाशित होने वाले papers के साथ up-to-date रहने के लिए हर रविवार summaries पढ़ी जाती हैं।
    • engineering side को और सीखने के लिए EleutherAI के Discord server से जुड़ सकते हैं या llama.cpp जैसे projects की GitHub discussions follow कर सकते हैं।
    • शायद सबसे efficient development method यह है कि इस क्षेत्र के प्रमुख papers को फिर से implement किया जाए। इसमें clear goal होता है, सफलता के साफ संकेत होते हैं, और काम को verify, compare और सीखने के लिए कई implementations उपलब्ध होते हैं।

  • LLM beginners के लिए quiz

    • हाल ही में non-CS (biomedical) graduate students के लिए LLM introduction lecture लिया। homework quiz देना चाहते थे, लेकिन अच्छा quiz नहीं मिला, इसलिए multiple-choice quiz बनाया। यह quiz "शैतानी" है और मज़बूत समझ के बिना इसमें गलती होना आसान है। कुछ सवालों में ऐसी nuances हैं जो समझ की परीक्षा लेते हैं और सही जवाब ढूँढने की कोशिश के दौरान सीखने में मदद करते हैं। यह एक Google Form है जो email collect नहीं करता।