Hodu: Rust में विकसित उपयोगकर्ता-अनुकूल ML टूलकिट

प्रोटोटाइपिंग से लेकर डिप्लॉयमेंट तक, यह मेमोरी सेफ्टी और zero-cost abstraction के साथ उपयोग में आसान मशीन लर्निंग टूलकिट है.

यह फिलहाल एक solo developer द्वारा विकसित किया जा रहा प्रोजेक्ट है. अभी विकास के शुरुआती चरण में है, लेकिन मुख्य फीचर कुछ हद तक स्थिर हो गए हैं, इसलिए इसे साझा किया जा रहा है. फ़ीडबैक या सुझाव मिलें तो आभारी रहूँगा.

Hodu क्या प्रदान करता है:

• hodu-lib: Rust के ownership system और zero-cost abstraction के माध्यम से मेमोरी-सुरक्षित tensor operations और model building प्रदान करने वाली मुख्य ML लाइब्रेरी. CPU, CUDA, Metal आदि विभिन्न backend का समर्थन
• hodu-cli: model inference, format conversion, और native library के लिए AOT compilation को सपोर्ट करने वाला command-line tool. plugin management सुविधा अंतर्निहित
• hodu-plugin-sdk: JSON-RPC के माध्यम से custom plugin बनाने के लिए SDK. नए model formats (ONNX, TensorFlow), tensor formats (NumPy, SafeTensors), execution backend जोड़े जा सकते हैं