- Carnegie Mellon University (CMU) द्वारा शुरू किया गया यह कोर्स आधुनिक कृत्रिम बुद्धिमत्ता सिस्टम कैसे काम करते हैं पर आधारित एक परिचयात्मक पाठ्यक्रम है
- Machine Learning और Large Language Models (LLM) पर केंद्रित यह कोर्स ChatGPT, Gemini, Claude जैसे सिस्टमों की आधारभूत तकनीकों को सिखाता है
- छात्र मूल supervised learning, neural networks, transformer, post-training सीखेंगे और open source LLM को स्वयं इम्प्लीमेंट कर सकेंगे
- इसका online version मुफ्त उपलब्ध है, और CMU कक्षा की तुलना में 2 सप्ताह की देरी से lecture videos और assignments जारी किए जाते हैं
- AI tools के उपयोग की अनुमति है, लेकिन अंतिम submission स्वयं लिखने की सिफारिश की जाती है; यह नीति सीखने की समझ बढ़ाने के लिए है
कोर्स अवलोकन
- यह कोर्स आधुनिक अर्थों में artificial intelligence (AI), यानी Machine Learning और Large Language Models (LLM) पर केंद्रित है
- ChatGPT, Gemini, Claude जैसे सिस्टमों की आधारभूत तकनीकों को कवर करता है
- LLM का मूल इम्प्लीमेंटेशन कुछ ही machine learning तकनीकों और आर्किटेक्चर से बनता है, और इसे कुछ सौ lines of code में लिखा जा सकता है
- छात्र supervised learning, LLM, post-training के मूल सिद्धांत सीखेंगे और AI chatbot स्वयं इम्प्लीमेंट कर सकेंगे
- मुख्य विषय इस प्रकार हैं
- AI का संक्षिप्त इतिहास
- Supervised learning: linear models, loss functions, optimization, neural networks
- Large language models: self-attention, transformer, tokenizer, efficient inference
- Post-training: supervised fine-tuning, alignment और instruction tuning, reasoning models, safety और security
ऑनलाइन कोर्स
- मुफ्त online version CMU कक्षा के साथ ही शुरू किया जाता है, लेकिन इसमें CMU schedule की तुलना में 2 सप्ताह देरी से content दिया जाता है
- इसमें lecture videos, assignments (mugrade system), Colab notebooks आदि शामिल हैं
- Quiz, midterm और final exam online version में शामिल नहीं हैं
- Enroll here के माध्यम से lecture और assignment जारी होने पर email notifications प्राप्त की जा सकती हैं
- TA, office hours, grading evaluation आदि केवल CMU कक्षा पर लागू होते हैं
मूल्यांकन और पूर्वापेक्षाएँ
- ग्रेड संरचना
- Assignments और programming 20%
- Assignment quizzes 40%
- Midterm और final exams 40% (प्रत्येक midterm 10%, final 20%)
- अनिवार्य पूर्वापेक्षा पाठ्यक्रम
- Programming: Python आधारित object-oriented programming में दक्षता आवश्यक (15-112 या 15-122)
- Mathematics: differential calculus सहित basic calculus (21-111 या 21-120), तथा linear algebra और probability की बुनियादी समझ की सिफारिश
असाइनमेंट और प्रोग्रामिंग
- मुख्य assignments का लक्ष्य AI chatbot का चरणबद्ध इम्प्लीमेंटेशन है
- इन्हें mugrade system के माध्यम से submit किया जाता है, और Colab तथा Marimo notebook versions उपलब्ध हैं
- कुछ assignments पिछले assignments के परिणामों पर आधारित होते हैं
- Assignment सूची
- HW0: auto-grading और programming fundamentals
- HW1: linear algebra और PyTorch
- HW2: automatic differentiation और linear model training
- HW3: neural network training
- HW4: transformer implementation
- HW5: minimal LLM implementation
- HW6: supervised fine-tuning और chatbot training
- HW7: reinforcement learning
- प्रत्येक assignment के बाद 15 मिनट का quiz होता है, जो assignment code या concepts पर आधारित होता है
परीक्षा और लेक्चर शेड्यूल
- इसमें 2 midterm exams और 1 final exam शामिल हैं, और सभी offline, closed-book exams हैं
- Midterm 1: supervised learning
- Midterm 2: large language models
- Final: cumulative evaluation (बाद के हिस्से का अधिक भार)
- Lecture schedule semester के दौरान अपडेट होता रहता है, और online version 2 सप्ताह बाद प्रकाशित होता है
- उदाहरण: 1/12 ‘AI का इतिहास’, 1/28 ‘linear models’, 2/16 ‘Midterm 1’, 3/18 ‘Midterm 2’, 4/20 ‘HW7 deadline’ आदि
AI tools उपयोग नीति
- AI assistants के उपयोग की अनुमति: assignments और programming के दौरान AI tools को संदर्भ के रूप में उपयोग किया जा सकता है
- लेकिन, अंतिम submission स्वयं लिखने की कड़ी सिफारिश की जाती है
- कक्षा के मूल्यांकन (quiz और exams) में AI और बाहरी सामग्री का उपयोग निषिद्ध है
- इस नीति का उद्देश्य सीखने की दक्षता बढ़ाना है
- AI सीखने में सहायक हो सकता है, लेकिन अत्यधिक निर्भरता समझ को कम कर सकती है
- जो छात्र assignments स्वयं हल करते हैं, वे quiz और exams में बेहतर प्रदर्शन करने की प्रवृत्ति रखते हैं
1 टिप्पणियां
Hacker News की राय
AI कोर्स की policy देखें तो, असाइनमेंट या programming homework में AI helper के उपयोग की अनुमति है, लेकिन final submission खुद लिखने की सिफारिश की जाती है
क्लास के quiz या exam में AI या बाहरी सामग्री का उपयोग प्रतिबंधित है
वजह यह है कि AI सीखने के टूल के रूप में उपयोगी है, लेकिन उस पर अत्यधिक निर्भरता सीखने में बाधा बन सकती है
अनुभवजन्य आधार है कि जो छात्र खुद समस्या हल करते हैं, वे परीक्षा में कहीं बेहतर प्रदर्शन करते हैं
मूल बात यह है कि छात्रों के AI इस्तेमाल करने की बात तो पता है, लेकिन सीखने की इच्छा और self-development पर भरोसा किया जा रहा है
मैंने पहले एक मिलते-जुलते course में मदद की थी; अगर AI debugging में मदद करता, तो छात्र और ज़्यादा सामग्री cover कर पाते और CUDA implementation जैसी दिलचस्प चीज़ों पर ध्यान दे पाते
यह नया course सच में काफ़ी दिलचस्प लगता है, और प्रोफेसर Zico बेहतरीन शिक्षक हैं
AI से समझने की गति बढ़े, और अंत में AI के बिना evaluation हो — यह learning को पक्का करने के लिए अच्छा ढाँचा है
उस समय यह मुझे अनुचित लगा था, लेकिन अब सोचता हूँ तो यह बहुत न्यायसंगत तरीका था
लगता है आज के समय में यह और भी उपयुक्त approach है
इस course के instructor OpenAI board के member हैं
संबंधित लेख: Zico Kolter joins OpenAI’s board of directors
यह अफ़सोसजनक है कि ‘modern AI’ से सिर्फ LLM का मतलब लिया जा रहा है
modern AI में इससे कहीं ज़्यादा व्यापक क्षेत्र शामिल है, और सिर्फ शीर्षक देखकर मैंने ज़्यादा विविध SOTA models की उम्मीद की थी
फिर भी CMU की lectures आम तौर पर शानदार होती हैं, इसलिए यह अच्छा course लगता है
अगर किसी के पास ऐसी सामग्री हो जो दूसरे क्षेत्रों को भी cover करती हो, तो उसमें बहुत रुचि होगी
मैं कुछ दिनों से free version में यह course कर रहा हूँ, और assignment system वाकई शानदार है
tests को local पर सीधे चला सकते हैं, इसलिए सिर्फ lectures सुनने की तुलना में सीखना कहीं बेहतर होता है
10 में 10 की recommendation है
क्या यह personal computer पर होता है, या cluster access दिया जाता है?
जानना चाहता हूँ कि क्या यह lecture एक अच्छा course है
या फिर LLM कैसे काम करते हैं, इसे व्यवस्थित रूप से सीखने के लिए कोई दूसरा recommended course है?
उन लोगों से पूछना चाहता हूँ जो सच में सभी assignments करते हुए यह class follow कर रहे हैं
वास्तविक रूप से इसे पूरा करने के लिए हर हफ़्ते कितने घंटे देने पड़ते हैं?
मैं post-modern AI आने का इंतज़ार कर रहा हूँ
symbolic reasoning से जुड़ी सामग्री न होना खलता है
lectures के साथ देखने के लिए textbook के प्रकाशित होने की उम्मीद है
आते ही खरीदने का इरादा है
Lisp और Prolog की वापसी देखकर खुशी हुई
फिर भी Lisp और Prolog अब भी उपयोगी हैं
neural network को शुरू से implement करने के लिए C उपयुक्त है, और Python से subsystems को जोड़कर काफ़ी जटिल systems बनाए जा सकते हैं
वे हमेशा अपने-अपने क्षेत्र में चुपचाप मौजूद रहे हैं