- यह एक वेब-आधारित टूल है, जिससे पता किया जा सकता है कि लोकल मशीन वास्तव में कौन-से AI मॉडल चला सकती है
- यह ब्राउज़र के WebGPU API का उपयोग करके हार्डवेयर प्रदर्शन का अनुमान लगाता है, इसलिए परिणाम वास्तविक स्पेक्स से अलग हो सकते हैं
- यह हर मॉडल के लिए memory requirement, token processing speed, context length, run grade (S~F) आदि दिखाता है
- इसमें Qwen, Llama, Gemma, Mistral, DeepSeek, GPT-OSS जैसे प्रमुख open source और commercial मॉडल शामिल हैं
- यह जल्दी से आकलन करने में मदद करता है कि लोकल AI चल पाएगा या नहीं, इसलिए डेवलपर्स और शोधकर्ताओं के लिए उपयोगी संदर्भ संकेतक के रूप में काम आ सकता है
सेवा का अवलोकन
- CanIRun.ai एक वेबसाइट है जहाँ लोकल वातावरण में चल सकने वाले AI मॉडल खोजे जा सकते हैं
- उपयोगकर्ता अपने ब्राउज़र में साइट खोलकर, सिस्टम प्रदर्शन के आधार पर चल सकने वाले मॉडलों की सूची देख सकते हैं
- परिणाम WebGPU API के जरिए अनुमानित होते हैं, इसलिए वास्तविक हार्डवेयर प्रदर्शन से अंतर हो सकता है
- हर मॉडल को performance grade (S~F) के आधार पर वर्गीकृत किया गया है, जिससे उसकी run capability और efficiency को सहज रूप से समझा जा सकता है
मॉडल ग्रेड प्रणाली
- ग्रेड को S, A, B, C, D, F में बाँटा गया है, जहाँ S सबसे स्मूथ रनिंग को दर्शाता है
- उदाहरण: NVIDIA GeForce RTX 4070 12GB के आधार पर
- Qwen 3.5 9B, Llama 3.1 8B जैसे मॉडल S(90/100) के रूप में दिखते हैं, यानी वे स्मूथ तरीके से चल सकते हैं
- Phi-4 14B को A(70/100) यानी 'अच्छी तरह चलता है' के रूप में दिखाया गया है
- GPT-OSS 20B, Mistral Small 3.1 24B जैसे मॉडल D(34~39/100) यानी 'लगभग चल नहीं सकता' के स्तर पर हैं
- इसके अलावा Gemma 3 27B, Qwen 3 32B जैसे 27B से बड़े अधिकांश मॉडल F(0/100) यानी 'बहुत भारी' के रूप में दिखाए गए हैं
डेटा स्रोत और तकनीकी आधार
- मॉडल डेटा llama.cpp, Ollama, LM Studio से एकत्र किया गया है
- हर मॉडल पेज पर memory usage, context length, token speed, architecture type (Dense/MoE) आदि विस्तार से दिखाए जाते हैं
उपयोगिता
- लोकल वातावरण में AI मॉडल सीधे चलाने की कोशिश कर रहे डेवलपर्स, शोधकर्ताओं और open source उपयोगकर्ताओं के लिए यह व्यावहारिक संदर्भ सामग्री देता है
- GPU प्रदर्शन के मुकाबले मॉडल आकार और efficiency की तुलना करके, उपयुक्त मॉडल चयन और deployment strategy बनाने में मदद मिलती है
- यह ब्राउज़र-आधारित है, इसलिए बिना इंस्टॉल किए तुरंत टेस्ट किया जा सकता है — यही इसकी खासियत है
अभी कोई टिप्पणी नहीं है.