Nvidia का Project Digits, एक 'Personal AI Supercomputer'

 (techcrunch.com)
3 पॉइंट द्वारा GN⁺ 2025-01-08 | 2 टिप्पणियां | WhatsApp पर शेयर करें

  • Nvidia के Project Digits का परिचय

    • Nvidia ने CES 2025 में 'Personal AI सुपरकंप्यूटर' Project Digits का अनावरण किया।
    • Grace Blackwell हार्डवेयर प्लेटफ़ॉर्म को कॉम्पैक्ट फॉर्म फ़ैक्टर में पेश किया।
    • यह Nvidia के पूरी AI software stack को चलाने वाला एक cloud computing platform है।

  • Project Digits की तकनीकी विशेषताएँ

    • इसे AI शोधकर्ता, डेटा वैज्ञानिक और छात्रों के लिए डिज़ाइन किया गया है।
    • GB10 Grace Blackwell Superchip के साथ यह अधिकतम 1 petaflop कंप्यूटिंग प्रदर्शन देता है।
    • यह अधिकतम 20 अरब पैरामीटर वाले मॉडल चला सकता है।
    • इसमें MediaTek के साथ मिलकर विकसित किया गया Nvidia Blackwell GPU और 20-core Nvidia Grace CPU शामिल है।
    • यह 128GB मेमोरी और अधिकतम 4TB फ्लैश स्टोरेज प्रदान करता है।

  • स्केलेबिलिटी और मूल्य

    • दो Project Digits को जोड़कर अधिकतम 405 अरब-पैरामीटर मॉडल चलाए जा सकते हैं।
    • इसे स्वतंत्र अनुभव के रूप में इस्तेमाल किया जा सकता है, या Windows या Mac PC से कनेक्ट किया जा सकता है।
    • कीमत $3,000 से शुरू होती है और मई से यह 'key partners' के माध्यम से उपलब्ध होगी।

  • बाजार और विज़न

    • Nvidia के CEO Jensen Huang ने कहा कि Project Digits लाखों डेवलपर्स को AI सुपरकंप्यूटर उपलब्ध कराएगा।
    • यह डेटा वैज्ञानिकों, AI शोधकर्ताओं और छात्रों को AI युग को आकार देने में योगदान करने में मदद करेगा।

  • अन्य जानकारी

    • CES 2025 में Nvidia की इस घोषणा से संबंधित और अपडेट आने वाले हैं।
    • इस लेख को TechCrunch के Kyle Wiggers ने लिखा।

संबंधित पढ़ाई

2 टिप्पणियां

 
berry 2025-01-16

दावा के मुताबिक यदि परफॉरमेंस भी अच्छी रहे और मेंटेनेंस भी अच्छी तरह से की जाए तो बढ़िया होगा।
 
GN⁺ 2025-01-08
Hacker News टिप्पणी
  • Nvidia Jetson Nano चार साल बाद सपोर्ट हटने से लगभग बेकार हो गया। यह Ubuntu 18.04 पर लॉन्च हुआ था, लेकिन उसके बाद कोई अपडेट न मिलने के कारण Machine Learning stack काम का नहीं रहा। जब तक Nvidia के SBC की software support Linux kernel में integrate नहीं होगी, मैं ऐसे डिवाइस को नहीं खरीदूँगा।
  • AI और LLM में बढ़ती रुचि के चलते Nvidia शायद Apple के AI डेवलपर मार्केट को अपना सकता है। मैं Nvidia के शेयर रखना चाहता था।
  • DGX OS 6 Ubuntu 22.04 पर आधारित है और इसमें latest हार्डवेयर व security updates शामिल हैं। यह GPU Direct Storage को सपोर्ट करता है तथा सभी Nvidia GPU driver और CUDA toolkit versions तक एक्सेस देता है।
  • Nvidia की value cloud solutions से तुलना के बाहर है, खासकर जब निजी डेटा या कंपनी के गोपनीय डेटा की बात हो, क्योंकि डाटा का बाहर जाना नहीं होना चाहिए।
  • Nvidia ने Wintel की तुलना में बेहतर कीमत/प्रदर्शन वाला Linux desktop supercomputer लॉन्च किया है, और नया software stack सिर्फ WSL2 पर चलता है।
  • IBM Roadrunner पहला सुपरकंप्यूटर था जिसने पहली बार 1 petaflop performance हासिल की थी, जबकि Nvidia का Project Digits AI मॉडल रन करने के लिए 1 petaflop performance देता है।
  • बायोइन्फॉर्मेटिक्स मार्केट में, Illumina DRAGEN hardware chip का उपयोग करके genome analysis को तेज कर रही है, जबकि Oxford Nanopore GPU का उपयोग तो करता है लेकिन आकार और पावर की सीमाओं के कारण performance सीमित रहती है।
  • Nvidia ने Intel/AMD का काम करके CUDA ecosystem को खतरे में डालने वाला एक सस्ता 128GB local inference डिवाइस लॉन्च किया है।
  • यह इमेज AI से जनरेट की हुई लगती है।
  • Nvidia का नया product सिर्फ एक peripheral नहीं, बल्कि Linux चलाने वाला पूरा computer है। भविष्य में संभव है कि हर किसी के पास ऐसा device हो।