Jan - ओपन सोर्स ChatGPT विकल्प के लिए क्रॉस-प्लेटफ़ॉर्म फ्रेमवर्क
(github.com/janhq)- 100% लोकल, सभी हार्डवेयर पर चलता है: NVidia GPU, Apple Silicon से लेकर मल्टी GPU क्लस्टर तक
- अंतिम लक्ष्य यह है कि कोई भी आसानी से AI को एकीकृत कर सके
- Jan Framework, Jan Desktop Client + Server, Nitro
- Nitro: C++ में लिखा गया उच्च-दक्षता inference engine (3MB)
- Llama.cpp + TensorRT + Whisper.cpp + StableDiffusion
1 टिप्पणियां
यह जानने की उत्सुकता है कि Korean परफॉर्मेंस कैसी है।