Carton - कई भाषाओं में ML मॉडल को एक ही API से चलाना
(carton.run)- सभी frameworks के लिए open source API
- मॉडल को metadata के साथ एक Zip फ़ाइल में पैक करके, फिर उस फ़ाइल को लोड करना
- inference कोड framework से स्वतंत्र रूप से काम कर सकता है. Carton API को कॉल करने पर Carton framework के अंदरूनी हिस्से को कॉल करता है
- Rust में इम्प्लीमेंट किया गया है, और हर भाषा के लिए bindings प्रदान करता है
- x86_64 Linux और macOS, aarch64 Linux और macOS, WebAssembly सपोर्ट
- मॉडल को convert करने वाले ONNX के विपरीत, Carton convert नहीं करता बल्कि केवल wrapping करता है
अभी कोई टिप्पणी नहीं है.