MTIA v1: Meta का पहली पीढ़ी का AI inference accelerator

• GPU, Meta के DLRM (Deep Learning Recommendation Model) को चलाने के लिए अनुकूल नहीं हैं
• इसलिए recommendation के लिए उपयुक्त Meta Training and Inference Accelerator (MTIA) ASIC विकसित किया गया
• अगली पीढ़ी के recommendation models की आवश्यकताओं को ध्यान में रखकर इसे co-design किया गया, और इसे PyTorch में integrate करके पूरी तरह optimized ranking system बनाया गया
• TSMC 7nm process, 800Mhz, 102.4 TOPS @ INT8, 51.2 TFLOPS @ FP16, 25W