- LLM को आसानी से बनाने, फाइन-ट्यून करने और प्रयोग करने के लिए Native-PyTorch लाइब्रेरी
- लोकप्रिय LLM के native PyTorch implementation
- HF फ़ॉर्मैट checkpoints सहित कई फ़ॉर्मैट के checkpoints का समर्थन
- reference benchmarks और व्यापक accuracy checks के ज़रिए व्यापक रूप से उपयोग होने वाली fine-tuning तकनीकों के लिए training recipes प्रदान करता है
- EleutherAI evaluation harness के माध्यम से प्रशिक्षित मॉडल का मूल्यांकन
- training के लिए HuggingFace datasets के साथ integration
- PyTorch Distributed के FSDP का उपयोग करके distributed training का समर्थन
- training runs को आसानी से configure करने के लिए YAML configuration
- [आगामी] TorchAO के low-precision dtype और quantization तकनीकों का समर्थन
- [आगामी] विभिन्न inference engines के साथ integration का समर्थन
अभी कोई टिप्पणी नहीं है.