- मैं एक software engineer हूँ और 10 साल से ज़्यादा समय से data-intensive applications बना रहा/रही हूँ। मुख्य रूप से backend (legacy, cloud)
- (1) क्या pivot करना अच्छा रहेगा? (2) क्या किसी ने यह किया है? (3) मेरे काम में ML नहीं है, तो मैं यह कैसे कर सकता/सकती हूँ?
- क्या ऐसा ML engineering काम है जो model building पर कम और model management/deployment/scaling पर ज़्यादा केंद्रित हो?
- यानी, क्या इसके पीछे का सारा math सीखे बिना भी काम चल सकता है?
arnabgho
- Snap में MLE tech lead के रूप में काम करते हुए Snap की generative AI infrastructure की नींव रखी
- यह एक बहुत rewarding career path है, इसलिए मैं MLE path की ज़ोरदार सिफारिश करता/करती हूँ
- "Designing Machine Learning Systems: An Iterative Process for Production-Ready Applications" किताब production machine learning systems design के लिए बहुत अच्छी introductory book है
- इसी लेखक (Chip Huyen) का यह ब्लॉग production-grade AI और ML systems बनाने के लिए एक बढ़िया introductory resource है
Production-ready LLM applications बनाना (summary और translated post links सहित)
- सवालों के जवाब
- (1) हाँ, खासकर अभी जैसे zeitgeist के inflection point पर ऐसा transition करना समझदारी है
- (2) हाँ
- (3) ML engineering skills शुरू करने और उनमें mastery पाने के लिए ऊपर दिए गए resources देखें
breckenedge
- लगभग 7 महीने पहले ML का उपयोग करके content recommendations बनाने वाले 3 महीने के project में कदम रखा
- शुरुआत off-the-shelf collaborative filtering library से की और अंत PyTorch पर हुआ, और ChatGPT बहुत मददगार रहा
- मैं उस रास्ते पर आगे बढ़ सकता/सकती था/थी, लेकिन management तेज़ और बेहतर results चाहता था, और बिना अनुभव के शुरुआत करते समय 3 महीने momentum पकड़ने के लिए काफ़ी थे
- ML का बड़ा हिस्सा dataset को साफ़ और तैयार करना था, जो ज़्यादा मज़ेदार नहीं था
- एक executive ने Amazon Personalize आज़माने को कहा; अच्छा प्रयास किया, लेकिन अंत में सफलता नहीं मिली। यह data problem थी या underlying model problem, पता नहीं
- black-box ML services की मुख्य समस्या यह है कि आप analyze नहीं कर सकते कि वास्तव में क्या हो रहा है
- Amazon Personalize data layer बदलना कठिन बना देता है, इसलिए यह समझना मुश्किल है कि आप बेहतर solution के करीब जा रहे हैं या नहीं
- एक skilled ML expert personalization का उपयोग करके बेहतर solution के करीब पहुँच सकता/सकती है
- इसलिए, अगर आप ML संभाल सकते हैं, तो इसे career बनाने से पहले एक ML trial project करके देखना अच्छा होगा कि आपको यह पसंद आता है या नहीं
nsyptras
- > क्या ऐसा ML engineering काम है जो model building पर कम और model management/deployment/scaling पर ज़्यादा केंद्रित हो?
- मैंने 2018 में इसी दिशा में transition किया। इसे MLOps कहते हैं। उससे पहले मैं mobile developer था/थी
- उस समय transition काफ़ी आसान था (अब competition ज़्यादा tough हो सकती है)
- मैंने यह किया:
- अकेले एक intensive ML project किया और समझा कि ML stack के हर हिस्से में काम करना मुझे पसंद है
- इस project पर [blog post]((https://www.nicksypteras.com/blog/aisu.html) भी लिखी
- फिर MLOps team के लिए apply किया और इस project के ज़रिए skills/experience साबित किए
- हो सकता है आप math से बच जाएँ, लेकिन basics सीखेंगे तो सब कुछ बहुत आसान होगा
- मुझे लगता है कि basic ML math के बिना मैं बहुत blind तरीके से आगे बढ़ रहा/रही होता/होती
ilaksh
- लगता है आप "MLOps" के बारे में सोच रहे हैं। MLOps भी महत्वपूर्ण है
- HuggingFace और RunPod के साथ Python में models deploy करने की practice करें
- साथ ही LLM pretraining, fine-tuning और evaluation पर tutorials देखें, और Predibase भी देखें
- अभी सबसे महत्वपूर्ण चीज़ diffusion transformers लगती है
- अगर आपको ऐसे documents मिल जाएँ जो इनके लिए training jobs चलाने का तरीका समझाते हों, तो वह लोगों के लिए मददगार हो सकता है
- अगर आप एक "cheat" चाहते हैं, तो replicate.com देखें. cog, replicate.com के बाहर ML models self-host करने में भी उपयोगी हो सकता है
nottorp
- मैंने "ML engineer में transition" नहीं किया, लेकिन पिछले 2.5 महीनों में public models का उपयोग करना, और tools व APIs के साथ उन्हें train और run करना कुछ हद तक सीख लिया
- मैंने लगभग कोई code नहीं लिखा और बहुत सी किताबें पढ़ीं
- छोटे organizations के साथ काम करना मददगार होता है (जहाँ आपको role boundaries में नहीं बाँधा जाता, बस काम दिया जाता है)
trybackprop
- अनुभवी software engineers जो सच में ML में transition पर विचार कर रहे हैं, उनके लिए मैंने इस पर एक blog post लिखकर साझा की
- जवाब
-
- अगर आप personal time में hacking का आनंद ले रहे हैं, तो इसे 'समझदारी' कहा जा सकता है। मैंने transition से पहले 1 साल तक nights और weekends में material पढ़ा, और तभी पहली बार लगा कि मैं यह काम full-time करना चाहता/चाहती हूँ
-
- हाँ, और transition के बाद से 7 साल से ML engineer के रूप में काम कर रहा/रही हूँ। अभी FAANG में ML tech lead हूँ। उससे पहले infrastructure और product में काम किया
-
- कुछ साल पहले मुझे जो सलाह मिली थी, उनमें से एक यह थी कि ML work से adjacent team में शामिल हों ताकि आपको production ML कैसा दिखता है, इसकी समझ हो सके। Kaggle.com पर ML thinking की practice भी शुरू कर सकते हैं
- मेरे blog की दूसरी posts में आप AI/ML और इस पेशे के लिए ज़रूरी math सीखने के resources देख सकते हैं
- Linear Algebra 101 for AI/ML – Part 1
- (इसमें interactive quiz, vectors/matrices की basics, और PyTorch का छोटा परिचय शामिल है, जो industry में व्यापक रूप से इस्तेमाल होने वाला open source ML framework है).
deepGem
- fast.ai का "Practical Deep Learning for Coders देखें
- यह 2022 का material है, लेकिन इसमें सिखाए गए principles आज भी बहुत valid और उपयोगी हैं
- खासकर Self Attention, transformers, और इन concepts पर आधारित modern architectures के लिए
- fast.ai course पूरा करने वाले कई लोगों ने सिर्फ ML engineer ही नहीं बल्कि research scientist के रूप में भी career transition किया है
- यह आसान course नहीं है, इसलिए अपने free time में समय निकालकर करना होगा
- अगर आपकी रुचि deployment/scaling में है, तो सीधे part 1 के lesson 2 पर जा सकते हैं। Jeremy एक बेहतरीन teacher हैं
- मैं academia से नहीं हूँ, इसलिए मुझे उनकी teaching style बहुत grounded लगती है
2 टिप्पणियां
अच्छी तरह पढ़ा। धन्यवाद।
कोरिया में तो बस API call करने का उतना ही स्तर पता हो तो काम चल जाता है। कंपनियां बड़ा पैसा लगाकर निवेश करना नहीं चाहतीं, लेकिन फिर भी किसी तरह hot trend को follow करना चाहती हैं... ऐसा ही एक अस्पष्ट-सा माहौल है।