Whisper Jax: सबसे तेज़ Whisper API implementation
(github.com/sanchit-gandhi)- OpenAI के Whisper speech recognition मॉडल को optimize करके तेज़ implementation
- TPU v4-8 पर JAX के साथ रन करता है। A100 GPU पर PyTorch के साथ चलाने की तुलना में अधिकतम 70 गुना तेज़
- CPU/GPU/TPU पर सभी में चल सकता है, और standalone या inference endpoint के रूप में रन किया जा सकता है
अभी कोई टिप्पणी नहीं है.