NVIDIA ने LPDDR5X-आधारित 128GB RAM वाला पर्सनल AI सुपर कंप्यूटर DIGITS पेश किया

 (nvidianews.nvidia.com)
11 पॉइंट द्वारा jhj0517 2025-01-08 | 7 टिप्पणियां | WhatsApp पर शेयर करें

NVIDIA ने LPDDR5X-आधारित 128GB RAM वाला पर्सनल AI सुपर कंप्यूटर DIGITS पेश किया

  • NVIDIA ने 7 जनवरी 2025 (स्थानीय समय) को Las Vegas में आयोजित CES में 128GB RAM वाला पर्सनल AI सुपर कंप्यूटर DIGITS पेश किया।
  • DIGITS में NVIDIA का नया NVIDIA GB10 Grace Blackwell सुपरचिप लगा है।
  • NVIDIA का लक्ष्य हर data scientist, AI researcher और student की डेस्क पर AI सुपरकंप्यूटर रखना है, ताकि वे AI युग में भाग ले सकें।

NVIDIA के नए सुपरचिप GB10 का प्रदर्शन

  • GB10 सुपरचिप NVIDIA Grace Blackwell आर्किटेक्चर-आधारित 'system on chip' (SoC) है, जो FP4 precision के आधार पर अधिकतम 1 petaflop (PetaFlop, 10¹⁵/s, प्रति सेकंड 1,000 ट्रिलियन ऑपरेशन) की कंप्यूटिंग क्षमता देता है।
  • GB10 में latest-generation CUDA® cores और 5th-generation Tensor Cores के साथ NVIDIA Blackwell GPU शामिल है।
  • यह NVLink®-C2C chip-to-chip interconnect के जरिए Arm आर्किटेक्चर-आधारित 20-core CPU से जुड़ा है।
  • Arm-आधारित SoC design क्षेत्र की market leader MediaTek ने GB10 के design में सहयोग किया।

पर्सनल AI सुपर कंप्यूटर DIGITS के मोटे तौर पर स्पेक्स

  • DIGITS में 128GB की unified, coherent memory और अधिकतम 4TB NVMe storage है।
  • यहां unified, coherent memory, GPU की VRAM से अलग अवधारणा है, और DIGITS LPDDR5X chips का उपयोग कर 128GB memory कॉन्फ़िगर करता है।
  • यह अधिकतम 200B (200 अरब) parameters वाले LLM चला सकता है।
  • NVIDIA ConnectX® networking के जरिए दो DIGITS AI सुपरकंप्यूटर जोड़कर अधिकतम 405B parameters वाला LLM भी चलाया जा सकता है।

संभावित रिलीज़ तारीख और कीमत

  • DIGITS इस साल मई से NVIDIA के top partners के माध्यम से $3000 (25-01-08 की exchange rate के आधार पर 4.37 मिलियन KRW) से उपलब्ध होगा।

DIGITS की memory bandwidth (स्पीड) का अनुमान

  • Memory bandwidth, GPU की स्पीड का अनुमान लगाने के लिए इस्तेमाल किया जाने वाला एक प्रमुख metric है।
  • Memory bandwidth सहित DIGITS के detailed specs अभी तक सार्वजनिक नहीं किए गए हैं।
  • एक लेख के अनुसार, NVIDIA द्वारा जारी image में DIGITS में 6 LPDDR5X modules लगे हुए दिखाई देते हैं, और इसी आधार पर memory bandwidth का अनुमान 825GB/s लगाया गया है।
  • यह RTX 3060 के 360GB/s की तुलना में 2.3 गुना तेज़ है, और RTX 4090 के 1008GB/s की तुलना में 0.8 गुना धीमा है; 128GB RAM को देखते हुए यह काफ़ी अच्छा प्रदर्शन है।
  • हालांकि, यह केवल एक व्यक्ति का अस्पष्ट अनुमान है, और वास्तविक प्रदर्शन का पता detailed specs सार्वजनिक होने पर ही चलेगा।

संबंधित पढ़ाई

7 टिप्पणियां

 
mintfrape 2025-02-06

हा हा, सामान्य system memory 128 के साथ सुपर कंप्यूटर..?
मेरे घर का Shih Tzu भी इस पर हँसेगा, Huang साहब।
कीमत तो Korea patch लगते ही 600 तक चली जाएगी…
 
nuthatch 2025-01-09

तो फिर इसमें कौन-सा OS इस्तेमाल होगा?
 
reagea0 2025-01-10

Linux होगा न? Ubuntu
 
hided62 2025-01-09

यानी... AMD के high-performance integrated graphics वाले मॉडल (जैसे 8840HS) से तुलना करें तो..

  • क्योंकि यह NVIDIA का है, इसलिए CUDA चलता है,
  • और यह x86 नहीं बल्कि ARM है।
    बस यही बात है?
 
scari 2025-01-09

लगता है कि इसकी पोज़िशनिंग M4 Mac mini जैसी है, लेकिन यह जनरल-पर्पज़ नहीं है, और उसकी जगह इसकी cost-effectiveness ज़्यादा अच्छी लगती है।
 
jujumilk3 2025-01-09

अलग बात है, लेकिन क्या इस पर गेम भी अच्छे से चलेंगे?
 
jhj0517 2025-01-09

यह सामान्य GPU से अलग है, जैसे 128GB की unified, consistent memory वगैरह, इसलिए यह व्यवहार में कैसा होगा, कहना मुश्किल है!
दूसरी पोस्टों में यह बात भी है कि यह gaming के लिए उपयुक्त नहीं होगा: https://dirox.com/post/nvidia-project-digits