Whisper के साथ तुलना किए गए Nvidia 4090 और M1/M2/M3 with MLX

 (owehrens.com)
14 पॉइंट द्वारा xguru 2023-12-14 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • Apple के जारी किए गए machine learning framework MLX का performance benchmark
  • 10 मिनट की audio को Whisper से transcribe करना
    • M1 Pro (2021 मॉडल) + MLX + 32GB RAM: 216 सेकंड
    • I7 + 4090 + 64GB RAM: 186 सेकंड
      • 2000€ का GPU, M1 की तुलना में 30 सेकंड (16%) तेज
    • M2 Ultra (76 GPU): 95 सेकंड
    • M3 Max (40 GPU): 100 सेकंड
  • Nvidia के लिए optimized insanely-fast-whisper इस्तेमाल करने पर 4090 में सिर्फ 8 सेकंड लगते हैं
    • इस मॉडल को M1 पर चलाने पर 359 सेकंड लगते हैं, यानी और अधिक समय

संबंधित पढ़ाई