- 100% लोकल, सभी हार्डवेयर पर चलता है: NVidia GPU, Apple Silicon से लेकर मल्टी GPU क्लस्टर तक
- अंतिम लक्ष्य यह है कि कोई भी आसानी से AI को एकीकृत कर सके
- Jan Framework, Jan Desktop Client + Server, Nitro
- Nitro: C++ में लिखा गया उच्च-दक्षता inference engine (3MB)
- Llama.cpp + TensorRT + Whisper.cpp + StableDiffusion
1 टिप्पणियां
यह जानने की उत्सुकता है कि Korean परफॉर्मेंस कैसी है।