NVIDIA ने Hopper आर्किटेक्चर का H100 GPU घोषित किया

 (nvidianews.nvidia.com)
2 पॉइंट द्वारा xguru 2022-03-23 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • GTC 2022 में अगली पीढ़ी के Hopper™ आर्किटेक्चर और उस पर आधारित H100 की घोषणा की गई।
    → इसका नाम Grace Hopper के नाम पर रखा गया है। यह Ampere आर्किटेक्चर का उत्तराधिकारी है
  • बड़े पैमाने के AI और HPC को तेज़ करने वाले 6 तकनीकी नवाचार
    • TSMC की 4nm प्रक्रिया पर 80 अरब ट्रांजिस्टर एकीकृत किए गए। PCIe Gen5 सपोर्ट और HBM3 मेमोरी का उपयोग करने वाला पहला GPU (3TB/s मेमोरी बैंडविड्थ)
    • नया Transformer इंजन, पिछली पीढ़ी की तुलना में 6 गुना अधिक तेज़
    • दूसरी पीढ़ी की सुरक्षित Multi-Instance GPU - MIG तकनीक, जो एक GPU को छोटे हिस्सों में partition करके अलग-थलग workloads चलाने की सुविधा देती है। Hopper आर्किटेक्चर के साथ MIG, पिछली पीढ़ी की तुलना में 7 गुना बेहतर
    • पहला Confidential Computing accelerator, जो प्रोसेसिंग के दौरान AI models और ग्राहक डेटा की सुरक्षा करता है
    • चौथी पीढ़ी का NVIDIA NVLink - अधिकतम 256 H100 GPU को 9 गुना अधिक बैंडविड्थ के साथ जोड़ता है (मौजूदा NVIDIA HDR Quantum InfiniBand की तुलना में)
    • नए DPX instructions, जो algorithms/path optimization/genomics में इस्तेमाल होने वाले "dynamic programming" को तेज़ करते हैं। पिछली पीढ़ी के GPU से 7 गुना और CPU से 40 गुना तेज़।
  • भाषा मॉडल Megatron 530B को पिछली पीढ़ी की तुलना में अधिकतम 30 गुना ज़्यादा throughput के साथ सपोर्ट करता है

संबंधित पढ़ाई