Hodu - Rust ML फ़्रेमवर्क

हाल ही में, मेरे एक करीबी परिचित ने Rust का उपयोग करके Hodu नाम का एक ML फ़्रेमवर्क बनाया है.
मुझे भी इसी तरह के प्रोजेक्ट पर काम करने का अनुभव रहा है, इसलिए मुझे लगा कि ML फ़्रेमवर्क में रुचि रखने वालों के लिए यह देखने लायक अच्छी सामग्री होगी, और इसी वजह से इसे साझा कर रहा हूँ.

मुख्य विशेषताएँ

• no_std सपोर्ट: ऐसा हल्का स्ट्रक्चर जो microcontroller पर भी चल सकता है
• static graph compile: एक बार compile किए गए graph को embedded device में store करके आसानी से inference किया जा सकता है
• dual execution mode:
  • prototyping: dynamic graph आधारित प्रयोग
  • production deployment: static graph आधारित स्थिर execution
• high-performance backend
  • XLA backend: graph optimization और JIT compile के जरिए सर्वोच्च performance
  • HODU native backend: pure Rust implementation, जो platform की सीमाओं के बिना चलती है
• intuitive API: PyTorch/TensorFlow style
• memory safety की गारंटी: Rust के ownership system से memory leak और data race पूरी तरह रोके जाते हैं
• multi-device support: CPU, CUDA(NVIDIA GPU), Metal(Apple GPU)

बताया जाता है कि Hodu, Rust में ML सीखते समय परिचित द्वारा अध्ययन के लिए शुरू किए गए maidnx प्रोजेक्ट से शुरू होकर यहाँ तक पहुँचा है.

xla फीचर के लिए build के समय LLVM/Clang + 8GB+ RAM + 20GB+ disk की ज़रूरत होती है, और build time भी काफ़ी लंबा है.
CUDA GPU सपोर्ट अभी पूरी तरह implemented नहीं है, और SIMD optimization भी योजना में है.
फिलहाल production environment में इसके उपयोग की सिफारिश नहीं की जाती, क्योंकि इसका विकास सक्रिय रूप से जारी है और इसमें experimental या अधूरी features मौजूद हैं.