- टेक्स्ट, ऑडियो, embedding, vision आदि विभिन्न AI मॉडलों के लोकल रन और training को एक ही interface में सपोर्ट करने वाला open source टूल
- Mac/Windows/Linux पर GGUF/safetensor मॉडल लोकल में चलाए जा सकते हैं, और training के दौरान अधिकतम 2 गुना तेज़ गति तथा 70% कम VRAM उपयोग हासिल होता है
- llama.cpp + Hugging Face आधारित multi-GPU inference और अधिकांश मॉडलों के लिए समर्थन
- Unsloth kernel LoRA, FP8, FFT, PT को optimize करके 500 से अधिक टेक्स्ट, vision, TTS/audio, embedding मॉडलों को सपोर्ट करता है
- Qwen3.5, NVIDIA Nemotron 3 जैसे नवीनतम LLM का fine-tuning किया जा सकता है, और multi-GPU का स्वचालित समर्थन उपलब्ध है
- full fine-tuning, 4bit/16bit/FP8 training, reinforcement learning (GRPO) जैसी व्यापक training विधियों का समर्थन
- MoE LLM को 12 गुना तेज़ train करना, या 80GB GPU पर 500K से अधिक context length के साथ 20B मॉडल को train करना जैसी optimization तकनीकें लगातार जोड़ी जा रही हैं
- fine-tune किए गए मॉडल सहित सभी मॉडलों को safetensors/GGUF में export किया जा सकता है, ताकि llama.cpp, vLLM, Ollama, LM Studio आदि में इस्तेमाल किया जा सके
- PDF, CSV, JSON जैसी unstructured documents को अपने-आप dataset में बदलने वाली Data Recipes सुविधा, साथ ही self-healing tool calling और code execution फीचर बिल्ट-इन हैं
- training loss और GPU उपयोग को real time में track करने वाली observability सुविधा शामिल है
- Model Arena में base मॉडल और fine-tuned मॉडल सहित 2 मॉडलों के output को साथ-साथ compare किया जा सकता है
- 100% offline लोकल रन के ज़रिए privacy सुनिश्चित करता है, और Apple MLX·AMD·Intel समर्थन जल्द जोड़ा जाएगा
- workflow :
Studio चलाएँ →
लोकल फ़ाइल या supported integrations से मॉडल लोड करें →
PDF, CSV, JSONL आदि से training data इंपोर्ट करें या शुरुआत से dataset बनाएँ →
Data Recipes में dataset को refine/expand करें → recommended preset या custom settings से training शुरू करें →
trained मॉडल और base मॉडल के output की तुलना करें →
अपने मौजूदा stack के लिए लोकल में save करें या export करें
- लाइसेंस
- मुख्य Unsloth package Apache 2.0 लाइसेंस के तहत है
- Unsloth Studio UI जैसे कुछ वैकल्पिक components पर ही AGPL-3.0 open source लाइसेंस लागू होता है
अभी कोई टिप्पणी नहीं है.