- यह ट्यूटोरियल मानता है कि आपको Python और Numpy की अच्छी समझ है, और इसमें सरल तरीके से GPT इम्प्लीमेंट किया जाता है, फिर OpenAI द्वारा जारी GPT-2 मॉडल को लोड करके टेक्स्ट जनरेशन करके दिखाया जाता है
विषयसूची
- GPT क्या है
- सेटअप : Encoder, Hyperparameters, Parameters
- Basic Layers : GeLU, Softmax, Layer Normalization, Linear
- GPT आर्किटेक्चर
- Embeddings
- Decoder Stack
- Vocab पर Project करना
- Decoder Block
- Position-wise Feed Forward Network
- Multi-Head Causal Self Attention
- सबको जोड़ना
- आगे क्या?
- GPU/TPU Support
- Backpropagation
- Batching
- Inference Optimization
- Training
- Evaluation
- Architecture Improvements
अभी कोई टिप्पणी नहीं है.