MIT 6.S184: Flow Matching और Diffusion Models का परिचय

 (diffusion.csail.mit.edu)
3 पॉइंट द्वारा GN⁺ 2025-03-04 | 1 टिप्पणियां | WhatsApp पर शेयर करें

Flow Matching और Diffusion Models का परिचय

  • MIT का computer science course 6.S184, stochastic differential equations का उपयोग करने वाले generative AI पर एक lecture course है.
  • diffusion और flow-based models, image, video, music जैसी विभिन्न data modalities में generative AI की अत्याधुनिक तकनीक के रूप में स्थापित हो चुके हैं.
  • इस course का लक्ष्य इन models की mathematical foundations को शुरुआत से तैयार करना है, और course के अंत तक छात्र स्वयं एक toy image diffusion model बनाते हैं.
  • यह course उन छात्रों के लिए आदर्श है जो generative AI के theory और practice को सिद्धांतगत रूप से समझना चाहते हैं.

Lecture Notes

  • lecture notes इस class का केंद्र हैं और सभी सामग्री के लिए स्वतंत्र व्याख्या प्रदान करते हैं.
  • lecture slides visual aid के रूप में दिए गए हैं, और वे स्वतंत्र सामग्री नहीं हैं.

Lectures

  • Lecture 1: Flow और Diffusion Models

    • generative models का परिचय
    • ordinary और stochastic differential equations
    • flow और diffusion models में sampling

  • Lecture 2: Training Objectives बनाना

    • conditional और marginal probability paths
    • continuity और Fokker-Planck equation
    • marginal vector fields और marginal score functions

  • Lecture 3: Flow और Diffusion Models की Training

    • flow matching
    • score matching
    • diffusion model के विभिन्न approaches

  • Lecture 4: Image Generator बनाना

    • guidance और conditional generation
    • neural network architectures
    • state-of-the-art models का सर्वेक्षण

  • Lecture 5: Generative Robotics

    • Benjamin Burchfiel का guest lecture
    • large behavior models
    • robotics के लिए diffusion models

  • Lecture 6: Generative Protein Design

    • Jason Yim का guest lecture
    • AI के माध्यम से नए proteins design करना
    • protein structure generation के लिए flow matching

Practicals

  • class के साथ 3 practicals दिए गए हैं, जो step-by-step flow matching और diffusion models बनाने का hands-on अभ्यास प्रदान करते हैं.
  • practicals को Google Colab में खोलकर किया जा सकता है.

Instructors

  • Peter और Ezra संयुक्त रूप से पढ़ाते हैं, और Tommi Jaakkola sponsor तथा advisor की भूमिका निभाते हैं.
  • Peter Holderrieth PhD student हैं, और Ezra Erives Master of Engineering student हैं.

Prerequisites

  • linear algebra, real analysis, और basic probability theory की आवश्यकता है, साथ ही Python और PyTorch का अनुभव होना चाहिए.

ध्यान देने योग्य बात

  • यह course large language models (LLM) को कवर नहीं करता. LLM में text जैसे discrete data शामिल होते हैं, जबकि यह course image, video, और protein structures जैसे continuous-space data पर केंद्रित है.

आभार

  • यह course कई व्यक्तियों और संगठनों के समर्थन के बिना संभव नहीं होता.
  • Professor Tommi Jaakkola, MIT EECS की Lisa Bella, Ellen Reid, और कई अन्य लोगों के प्रति आभार व्यक्त किया गया है.

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2025-03-04
Hacker News राय

  • MIT का कोर्स "6.S184: Introduction to Flow Matching and Diffusion Models" YouTube पर जारी किया गया है

    • यह image, video, protein आदि के लिए generative AI algorithms और उन्हें समझने के लिए mathematical tools सिखाता है
    • flow और diffusion models गणितीय रूप से चुनौतीपूर्ण विषय हैं, इसलिए कई lectures सिर्फ़ ऊँचे स्तर की intuition ही सिखाते हैं
    • यह course गणितीय रूप से rigorously और self-contained परिचय देता है तथा AI beginners को ध्यान में रखता है
    • उम्मीद है कि लोगों को यह lecture पसंद आएगा

  • conditional normalizing flows inverse design problems के लिए सबसे सुंदर समाधानों में से एक हैं

    • अगर data है, तो इसे train किया जा सकता है
    • base distribution को bijective function से बदलकर सही स्थान तक ले जाने का विचार बहुत elegant है
    • continuous और categorical targets को एक साथ संभालने में कठिनाई रही है
    • यह सच में बहुत शानदार तरीका है

  • पिछले 10 साल deep learning education के स्वर्णिम युग रहे हैं

    • मुफ्त में high-quality learning content देने की प्रतिस्पर्धा दिलचस्प है

  • शानदार lecture है, इसे जल्द देखना चाहता हूँ

    • यह course continuous spaces पर केंद्रित है, लेकिन discrete diffusion में भी बहुत दिलचस्प काम हो रहा है
    • सोच रहा हूँ कि क्या इसके follow-up lectures की कोई योजना है
    • पता चला कि instructor Peter ने discrete diffusion पर एक paper प्रकाशित किया है

  • सोच रहा हूँ कि क्या नवीनतम AI तकनीकों पर सभी public courses को इकट्ठा करने वाला कोई collection है

  • MIT OCW और उसके collaborators के लिए बहुत आभारी हूँ

    • मैं इसे supplementary material के रूप में उपयोग करता हूँ, और एक ही विषय को दो अलग तरीकों से सीखना बहुत लाभदायक है
    • खासकर उन विषयों में जिन्हें समझना कठिन होता है

  • लगता है कि यह तकनीक बहुत उपयोगी होने के बावजूद LLMs ने लोगों का बहुत ध्यान भटका दिया है

  • यह शानदार है कि MIT समयोचित और प्रासंगिक content मुफ्त में उपलब्ध करा रहा है

  • बहुत धन्यवाद, सोच रहा हूँ कि क्या modern AI पर अन्य OCW courses भी हैं

  • अच्छा काम किया, बधाई