AMD CUDA की moat को कैसे पार कर सकता है

 (hpcwire.com)
6 पॉइंट द्वारा GN⁺ 2023-10-07 | 8 टिप्पणियां | WhatsApp पर शेयर करें
  • Nvidia को CUDA और cuDNN जैसे software tools और optimized libraries की वजह से GenAI क्षेत्र में बढ़त हासिल है
    • उसने hardware के आसपास एक मज़बूत software "moat" बनाया है, जिससे HPC और GenAI बाज़ार में दूसरी कंपनियों के लिए प्रतिस्पर्धा करना मुश्किल हो जाता है
  • GenAI computing resources की बढ़ती मांग के कारण अधिक GPU की ज़रूरत पड़ रही है। इससे supply-demand gap पैदा हो रहा है, जिसे AMD जैसी कंपनियाँ भरने की कोशिश कर रही हैं
  • Nvidia से प्रतिस्पर्धा करने के लिए, दूसरे निर्माताओं के GPU और accelerators को CUDA support करना होगा। AMD इसे HIP CUDA conversion tool के जरिए संभव बनाता है
  • PyTorch open source machine learning library, GPU का उपयोग करने वाले AI applications बनाने में TensorFlow के विकल्प के रूप में लोकप्रिय हो रही है
  • PyTorch उपयोगकर्ताओं को underlying GPU architecture से अलग रखता है, जिससे AMD GPU के लिए CUDA moat को पार करना आसान हो जाता है
  • Nvidia का आने वाला 72-core ARM-based Grace-Hopper superchip, HPC और GenAI में संभावित performance की वजह से काफी चर्चा में है
  • AMD अपने आने वाले Instinct MI300A processor के साथ Nvidia के Grace-Hopper superchip से मुकाबला करेगा, और यही processor Lawrence Livermore National Laboratory के आने वाले El Capitan को power देगा
  • AMD CEO Lisa Su ने कहा है कि उनकी architecture choices के कारण उनका लक्ष्य inference solutions में industry leader बनना है
  • AMD और दूसरे hardware vendors के लिए, PyTorch ने CUDA moat पर एक drawbridge डाल दिया है
  • GenAI बाज़ार में hardware की लड़ाई performance, portability, और availability से तय होगी

संबंधित पढ़ाई

8 टिप्पणियां

 
slemma999 2023-10-08

अच्छा लेख मैं हमेशा रुचि से पढ़ता हूँ, धन्यवाद। लेकिन एक व्यक्तिगत राय देना चाहूँगा: यह न तो स्थानीयकरण है, और न ही सहज भाषा; चीनी मूल के कठिन शब्दों में बदल देने से भाषा अटपटी और समझने में मुश्किल लगती है। जैसे 도개교 या 해자 जैसे शब्दों के बजाय, अगर English शब्द वैसे ही रखें या आसान कोरियाई में समझाएँ, तो बेहतर होगा।
 
monovision 2023-10-09

"Moat" आम तौर पर बहुत इस्तेमाल होने वाला शब्द है, और "drawbridge" उतना आम नहीं है, लेकिन अगर शब्दकोश वगैरह देखें तो यह बिल्कुल सटीक अनुवादित शब्द लगता है.
https://ko.wikipedia.org/wiki/%EA%B0%80%EB%8F%99%EA%B5%90
 
slemma999 2023-10-09

मुझे पता है कि इसका इस्तेमाल अर्थशास्त्र वाले क्षेत्र में भी होता है, और AI तकनीक के जटिल होने के साथ इसका उपयोग किया जाता है, लेकिन मुझे लगता है कि यहां इसका प्रयोग गलत तरीके से किया गया है। उदाहरण के लिए, यह कहना कि बेसिक CPU architecture से अलग करके AMD का GPU CUDA moat को पार करना आसान बना देता है, तकनीकी तौर पर जैसे कोई चीज़ बहुत सरलता से हल हो जाती है, इस तरह गलत ढंग से लिखा गया है। कोरियन में यह कहना कि उसके पास उस moat को पार करने की तकनीकी क्षमता है, ज़्यादा उपयुक्त अभिव्यक्ति होगी। यह वाक्य ऐसे लिखा गया है मानो कोई एक library किसी समस्या को हल कर सकती हो, इसलिए यह काफ़ी अटपटा लगता है। यहां तक कि एक पल को लगा, क्या moat वाकई ऐसा शब्द था?
 
newtype 2023-10-11

"Moat" वाकई बहुत सटीक शब्द है, क्योंकि इसका न तो कोई खास विकल्प है और न ही इसे बदलने की कोई ज़रूरत। आपको शायद यह शब्द अजीब लग रहा हो क्योंकि आपने अभी-अभी इसे पहली बार शब्दकोश में देखा है, लेकिन बाकी सभी पाठकों का शब्द-भंडार आपके जैसा ही हो, ऐसा नहीं है। अपनी अज्ञानता को हथियार की तरह मत चलाइए।
 
botplaysdice 2023-10-11

थोड़ा चुभता है। लेकिन, उम्मीद है कि यह ऐसा कम्युनिटी नहीं बनेगा जहाँ अज्ञानता शर्म की बात बन जाए।
 
fortune 2023-10-09

सही बात है, मुझे भी कभी-कभी automatic translation में अटपटे हिस्से महसूस होते हैं.

लेकिन इस मामले में 'moat' हमारे यहाँ भी अच्छी तरह इस्तेमाल होने वाला expression है. अगर आप news search में 'moat' खोजें, तो आपको बहुत से नतीजे मिलेंगे.
 
cosine20 2023-10-08

मुझे पता है कि CUDA के मुकाबले AMD ने OpenCL के साथ हिस्सा लिया था, लेकिन यहाँ उसका ज़िक्र नहीं है, तो लगता है कि इस दौरान AI क्षेत्र की libraries के साथ उसका जुड़ाव इतना नहीं रहा होगा।
 
GN⁺ 2023-10-07
Hacker News राय
  • उपयोगकर्ता ने ROCm को Pytorch के साथ इस्तेमाल करके CPU की तुलना में 200 गुना प्रदर्शन वृद्धि देखी.
  • AMD सेटअप की जटिलता के कारण उपयोगकर्ता आधिकारिक ROCm Pytorch बेस Docker image इस्तेमाल करने की सलाह देता है.
  • उपयोगकर्ता ने कहा कि Nvidia card रखने का उसका एकमात्र कारण CUDA है, लेकिन अगर और प्रोजेक्ट्स तटस्थ environment की ओर जाएँ तो वह इसकी सराहना करेगा.
  • उपयोगकर्ता को लगता है कि Linux पर Nvidia चलाना Windows Vista में kernel crash झेलने जितना ही अप्रिय है.
  • उपयोगकर्ता AMD और अन्य प्रतिस्पर्धियों की प्रतिस्पर्धा का स्वागत करता है, और बड़े internal RAM वाले Apple Silicon SOC में भी रुचि रखता है.
  • Pytorch दूसरे hardware की अनुमति देता है, और उपयोगकर्ता computing power के वास्तविक benchmark देखना चाहता है.
  • AMD द्वारा Nvidia के साथ scientific या ML software में अंतर कम करने के बारे में प्रत्यक्ष प्रमाण सीमित हैं.
  • CUDA, ecosystem को support करने में Nvidia के प्रयासों का नतीजा है, और जब आप Nvidia खरीदते हैं, तो आप ecosystem में उनके निवेशित प्रयास भी साथ खरीदते हैं.
  • AMD के पास hardware है, लेकिन bliss और AOCL के अलावा HPC के लिए support की कमी है.
  • उपयोगकर्ता सवाल उठाता है कि क्या AMD के पास Nvidia के PTX जैसी forward device compatibility के लिए कोई समाधान है.
  • Nvidia की बढ़त open source community, बड़ी कंपनियों और research labs की कई वर्षों की मेहनत का परिणाम है.
  • उपयोगकर्ता सवाल उठाता है कि अगर AMD बराबरी पर आ जाए तो क्या hobbyists या bootstrap startup के लिए कीमतें कम होंगी, या AMD भी Nvidia की तरह कीमतें बढ़ाएगा.
  • AMD का software solution इस तरह डिज़ाइन किया गया है कि वह किसी भी hardware पर चल सके, और hip, cuda के साथ line-by-line compatible है, इसलिए porting बहुत आसान है.