Intel CEO: "पूरी इंडस्ट्री CUDA मार्केट को खत्म करने के लिए प्रेरित है"

 (tomshardware.com)
2 पॉइंट द्वारा GN⁺ 2023-12-16 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • Intel CEO Pat Gelsinger ने New York City इवेंट में Core Ultra और 5th Gen Xeon डेटा-सेंटर चिप्स पेश करते हुए दावा किया कि AI training में Nvidia के CUDA का दबदबा हमेशा नहीं रहेगा
  • Gelsinger ने MLIR, Google, OpenAI का उदाहरण देते हुए कहा कि इंडस्ट्री AI training को और खुला बनाने के लिए Pythonic programming layer की ओर बढ़ रही है
  • Intel CUDA पर निर्भरता न रखने वाले inference मार्केट को ज्यादा अहम मुकाबले का मैदान मानती है, और Gaudi 3, Xeon व edge PC के जरिए training के बाद models चलाने की प्रतिस्पर्धा में उतरना चाहती है
  • AI strategy के केंद्र में OpenVINO है, और Intel ऐसे mixed computing environment की उम्मीद करती है जिसमें कुछ operations cloud में और कुछ PC पर प्रोसेस होंगे
  • Gelsinger ने कहा कि डेटा-सेंटर AI मार्केट में Intel CPU, accelerators और foundry के जरिए मुकाबला करेगी, और internal chip opportunities के साथ-साथ Nvidia·AMD जैसी commercial opportunities भी साधेगी

CUDA के दबदबे पर Intel का हमला

  • Pat Gelsinger ने New York City इवेंट में Intel Core Ultra और 5th Gen Xeon डेटा-सेंटर चिप्स पेश करते हुए Nvidia की CUDA technology को सीधे निशाना बनाया
  • NASDAQ में सवाल पूछे जाने पर उन्होंने जवाब दिया कि AI training में Nvidia CUDA का दबदबा हमेशा के लिए नहीं रहेगा
  • उन्होंने कहा, “पूरी इंडस्ट्री CUDA मार्केट को खत्म करने के लिए प्रेरित है”
  • उनके मुताबिक MLIR, Google और OpenAI, AI training को ज्यादा खुला बनाने के लिए Pythonic programming layer की ओर बढ़ रहे हैं
  • उन्होंने CUDA की खाई को “उथली और छोटी” बताया और दावा किया कि इंडस्ट्री व्यापक training, innovation और data science के लिए technologies का ज्यादा विस्तृत सेट लाना चाहती है

Training से ज्यादा inference पर केंद्रित strategy

  • Intel सिर्फ training में मुकाबला करने के बजाय inference को मुख्य मार्केट मानती है
  • Gelsinger के अनुसार, एक बार model train हो जाने के बाद CUDA पर निर्भरता नहीं रहती, और अहम बात यह होती है कि उस model को कितनी अच्छी तरह चलाया जा सकता है
  • मंच पर पहली बार दिखाया गया Gaudi 3 इस मुकाबले के लिए उत्पाद के रूप में पेश किया गया
  • Xeon और edge PC का भी इसी दिशा में प्रतिस्पर्धी आधार के रूप में उल्लेख हुआ
  • इसका मतलब यह नहीं कि Intel training मार्केट छोड़ रही है, लेकिन Gelsinger के मुताबिक “मूल रूप से inference मार्केट ही निर्णायक मैदान है”

OpenVINO और mixed computing

  • Gelsinger ने Intel के AI प्रयासों में केंद्रीय standard के रूप में OpenVINO पर जोर दिया
  • आगे वह ऐसी mixed computing दुनिया की उम्मीद करते हैं, जहां कुछ operations cloud में और कुछ users के PC पर प्रोसेस होंगे
  • Sandra Rivera ने जोड़ा कि डेटा-सेंटर से PC तक scale रखने की वजह से Intel चुना जाने वाला partner बन सकती है
  • Rivera ने Intel की बड़े पैमाने पर production करने की क्षमता को भी ताकत के रूप में पेश किया

डेटा-सेंटर AI मार्केट के लिए तीन दिशाओं में मुकाबला

  • Gelsinger ने कहा कि Intel पूरे डेटा-सेंटर AI मार्केट में CPU, accelerators और foundry—इन तीन तरीकों से मुकाबला करेगी
  • internal opportunities के तौर पर TPU, Inferentia, Trainium जैसे chips का उल्लेख हुआ
  • commercial opportunities के लिहाज से Nvidia, AMD आदि के साथ सहयोग की संभावनाएं भी सभी साधने का रुख है
  • Intel अपने products की प्रतिस्पर्धा के साथ-साथ foundry player बनने की strategy भी आगे रखती है

प्रतिस्पर्धी परिदृश्य के बाकी सवाल

  • Gelsinger ने इस घोषणा में मजबूत आत्मविश्वास दिखाते हुए टीम की presentations को lead किया
  • CUDA का वास्तव में मुकाबला किया जा सकेगा या नहीं, यह Intel द्वारा पेश chips और rivals द्वारा develop की जा रही chips के applications के और व्यापक रूप से फैलने के बाद ही स्पष्ट होगा

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2023-12-16
Hacker News की राय

  • दूसरे कमेंट्स की तरह, असली मुद्दा CUDA ही है। Intel या AMD चिप्स काफ़ी जल्दी बना सकते हैं, लेकिन वे यह नहीं समझते कि उनका असली मुकाबला software और ecosystem से है
    उदाहरण के लिए, eBay पर A100 के लगभग बराबर performance वाला सेकंड-हैंड MI100 एक-पाँचवें दाम पर मिल सकता है, और उसके इतना सस्ता होने की वजह यह है कि Nvidia GPU की तुलना में software incompatibility के कारण उसे चलाने में बहुत ज़्यादा समय लग जाता है
    Google भी PyTorch में XLA interface जोड़कर researchers को बस किसी तरह का compatibility path दे रहा है, और Intel भी लगभग वैसा ही कर रहा है
    इस क्षेत्र की कंपनियों को, अगर वे चिप्स बेचना चाहती हैं, तो Hugging Face के सभी models जैसी चीज़ों को शामिल करने वाला एक बहुत बड़ा test suite बनाकर समस्याएँ एक-एक करके brute force तरीके से ठीक करनी होंगी
    Intel हमेशा की तरह open initiatives की घोषणा कर रहा है और फिर support न्यूनतम दे रहा है, और लगता है कि OpenVINO भी कोई खास नतीजा दिए बिना खत्म हो सकता है। OpenAI का Triton पहले से ही ज़्यादा चर्चा में दिखता है

    • मज़ेदार बात यह है कि AI software ecosystem का बड़ा हिस्सा असल में PyTorch ही है। नया framework बनाकर उसे लोकप्रिय करने की ज़रूरत नहीं है, और न ही ढेर सारी छोटी-छोटी libraries को support करने की। बस PyTorch को ठीक से support करना है
      अगर PyTorch Intel GPU पर अच्छी तरह चले, तो बहुत से लोग खुशी-खुशी migrate कर जाएंगे
    • यह सिर्फ Intel की समस्या नहीं है। open initiatives और consortiums आमतौर पर पीछे चल रहे खिलाड़ियों का बिना किसी बढ़त को हासिल करने के लिए साथ आने का तरीका होते हैं
      अगर आपकी उम्र थोड़ी ज़्यादा है, तो आपने industry में यह pattern बार-बार देखा होगा। 1990s में Unix बनाम Windows NT का इतिहास भी ऐसी ही कोशिशों से भरा हुआ था, और networking में भी UltraEthernet के साथ वही चीज़ फिर हो रही है
      OpenGL शायद सबसे सफल approach था, लेकिन वह भी बस किसी तरह काम कर पाया, और जो खिलाड़ी पहले से जीतने की स्थिति में नहीं थे, उन्हें उससे खास मदद नहीं मिली। Unix 95 भी नहीं चला, Unix 98 भी नहीं
    • Nvidia, Intel या AMD की तुलना में https://github.com/ggerganov जैसे लोगों से दस गुना ज़्यादा डरता होगा
    • यही असली बात है। जब तक Intel या AMD software side को गंभीरता से नहीं लेंगे और उस पर वास्तव में पैसा invest नहीं करेंगे, CUDA खत्म नहीं होगा
      Intel का ट्रैक रिकॉर्ड ऐसा लगता है कि वह किसी initiative का शोर मचाएगा और फिर एक-दो quarter बाद उस division में बड़ी कटौती कर देगा
      CUDA space में compete करने के लिए multi-year commitment और बड़े पैमाने पर hiring चाहिए, और उसके लिए salaries भी market rate तक बढ़ानी होंगी
    • AMD, Intel, और कुछ हद तक Qualcomm भी शायद यह नहीं समझते कि NVIDIA को कैसे हराना है
      NVIDIA के हिस्से का pie लेने के लिए अभी H100 से बेहतर कुछ बनाना ज़रूरी नहीं है। ऐसे बहुत से ग्राहक हैं जो 4090, 4080, यहाँ तक कि 3080-स्तर के performance से संतुष्ट होंगे, अगर कीमत आधी हो, Amazon या NewEgg जैसी जगहों से तुरंत खरीदा जा सके, और उस पर “ask for pricing” बटन न हो
      AMD और Intel, NVIDIA की तुलना में चिप्स को वास्तव में खरीदने लायक उपलब्ध कराने में कहीं बेहतर हैं, लेकिन सिर्फ इतना काफ़ी नहीं है
      ज़रूरत है intelcc, amdcc, qualcommcc की, जो nvcc में जाने वाले बिल्कुल वही code को उसी रूप में लेकर compile कर सकें। एक भी function prototype अलग नहीं होना चाहिए, और बिना सवाल किए target hardware पर चलना चाहिए। यह CUDA का drop-in replacement होना चाहिए
      ऐसा होने पर PyTorch और बाकी सब कुछ दूसरे chips के लिए फिर से compile करना मामूली काम रह जाएगा

  • एक दिलचस्प तथ्य यह है कि NVIDIA के engineers में आधे से ज़्यादा software engineers हैं। Jensen ने GPU के ऊपर एक शक्तिशाली software stack जानबूझकर और रणनीतिक तरीके से बनाया, और वह दशकों से ऐसा करते आए हैं
    जब तक Intel को सिर्फ numbers देखने वाले manager की जगह Jensen जितना technical और strategic CEO नहीं मिलता, तब तक CUDA का सफल जवाब देना मुश्किल लगता है

    • Gelsinger को “non-technical” कहना हक़ीक़त से बहुत दूर की बात है
      Gelsinger 1979 में 18 साल की उम्र में Intel में शामिल हुए, 1987 में 80386 microprocessor programming पर किताब के सह-लेखक रहे, और 1989 में आए 4th-generation 80486 processor के chief architect थे
      32 साल की उम्र में वे Intel के इतिहास के सबसे कम उम्र के vice president बने, और 2001 में CTO बनकर Wi‑Fi, USB, Intel Core, Intel Xeon, और 14 chip projects जैसी प्रमुख technologies के development का नेतृत्व किया। उन्होंने Microsoft WinHEC के जवाब में Intel Developer Forum भी शुरू किया
    • Gelsinger का “पूरी industry” कहना लगभग एक साधारण तथ्य जैसा लगता है। Nvidia को छोड़कर बाकी सभी खिलाड़ियों के पास CUDA जैसी proprietary technology की अहमियत कम करने की प्रेरणा है। इसका मतलब Nvidia जितने programmers रख सकती है, उससे कहीं ज़्यादा programmers इस दिशा में लग सकते हैं
      भले ही Intel खुद अपने रास्ते में अड़चनें डाले, फिर भी ज़्यादा chip makers को इस प्रयास में खींचने की प्रेरणा बहुत बड़ी है। यह होगा ही; सवाल सिर्फ इतना है कि महीनों में, सालों में, या 10 साल में
      निजी तौर पर, मैं कम समय वाले अनुमान पर दांव लगाऊँगा। यह ज़्यादातर matrix multiplication problem जैसा दिखता है, और अचानक इसमें बहुत ज़्यादा पैसा और ध्यान आ गया है। AMD की APU strategy [0] भी MI300A के साथ high end market तक पहुँचना शुरू कर चुकी है, जो दिलचस्प है
      [0] जो लोग इस trend को नहीं देख रहे, उनके लिए: AMD system memory और GPU memory को integrate करता आ रहा है। अगर मैंने सही समझा है, तो इन chips में अब “डेटा को GPU में copy” करने की ज़रूरत नहीं रहती। मूल रूप से CPU को matrix math के लिए एक बड़ा extension मिल जाता है। पहले यह technology low-end CPUs में डाली जाती थी, इसलिए AI workloads के लिए उतनी उपयोगी नहीं थी, लेकिन अब इसे बड़े chips में डाला जा रहा है
    • Pat Gelsinger को किसी hero की तरह पेश करने वाला माहौल काफ़ी अजीब लगता है। VMware में उन्हें देखकर मेरी छाप यह थी कि वे technical से ज़्यादा numbers-managing type के हैं, और अच्छे technical leadership decisions लेने के लिए personal grudges या status games में कुछ ज़्यादा ही उलझे रहते हैं
      बेशक, हो सकता है मेरी पहली छाप ही खराब रही हो। acquisition announcement के समय Pivotal से उन्होंने पहली बात यह कही थी: “आप लोग हमारे cousin थे, लेकिन अब बच्चों के ज़्यादा क़रीब हैं,” और उसी से पूरा माहौल अजीब हो गया था
    • यह Intel के लिए भी कम-से-कम 10 साल से सच है, और शायद उससे भी ज़्यादा समय से। Nvidia के लिए भी उसके अस्तित्व के लगभग पूरे समय में यह सच रहा होगा
      software के बिना hardware बस महँगी रेत है। हर semiconductor company यह जानती है। शुरुआत में x86 के साथ इस पूरे package को पूरा करने वाली कंपनी Intel ही थी
      GPU compute space में CUDA, x86 है। वह हर जगह है, de facto standard है, और कभी न कभी उसे disrupt किया जाएगा। सवाल सिर्फ यह है कि उसमें 1 साल लगेगा या 10 साल

  • अगर CUDA से बेहतर tool chain, ecosystem, programming experience बनाया जाए और उसे सभी compute platforms पर सर्वोच्च performance के साथ compatible रखा जाए, तो यह शानदार होगा। सबकी जीत होगी
    उससे पहले तक ऐसे दावे कुछ हास्यास्पद लगते हैं, खासकर यह देखते हुए कि programmer experience और घटते support के मामले में OpenCL विफल रहा था। DX/GL/Vulkan के compute shaders से general-purpose GPU computation करने की कोशिश भी ऐसी ही रही
    क्या सच में “प्रेरणा” है? सालों का समय पहले ही मिल चुका है और नतीजे बेहद खराब रहे हैं। पता नहीं CUDA में किए गए निवेश का थोड़ा-सा हिस्सा भी लगाया गया या नहीं। बातों से नहीं, पैसे से दिखाना होगा

    • अच्छा होगा अगर AMD या Intel बिना किसी special-purpose programming language के इस्तेमाल की जा सकने वाली, हज़ारों cores वाली एक विशाल CPU ही दे दें
      न coprocessor चाहिए, न ऐसी कोई और टूटी-फूटी special-purpose language—चाहे वह अनियमितताओं से भरा C/C++ हो या Python की कोई अधपकी नकल। बस ज़्यादा cores दे दो और सामान्य programming languages के असली threads इस्तेमाल करने दो
    • जानना चाहता हूँ कि compute shaders में समस्या क्या है

  • Intel और AMD के पास OpenCL के ऊपर इसी तरह की functionality देने के लिए कई साल थे
    लगता है पहले उन्हें अपनी विफलता पर नज़र डालनी चाहिए

    • SYCL, OpenCL की तुलना में CUDA के ज़्यादा करीब का विकल्प है, और Intel का अपना implementation भी है। फिर भी मैंने शायद ही किसी को वास्तव में SYCL में कुछ लिखते देखा है
      जब मैंने इसे आज़माने के लिए देखा, तब भी कई implementations थे, और हर एक अलग-अलग operating systems और hardware subsets को support करता था, इसलिए यह काफ़ी बिखरा हुआ लगा
      https://www.intel.com/content/www/us/en/developer/tools/onea...
    • या तो similar functionality, similar performance, या फिर बेहतर performance होनी चाहिए, लेकिन अभी इनमें से कुछ भी नहीं है
      लोग Nvidia hardware पर भी धीमा, और शायद सस्ता computation नहीं खरीदना चाहते। तो फिर Intel hardware पर ऐसा क्यों करेंगे? ऊपर से app भी बदलनी पड़ेगी, इसलिए शुरुआत से ही यह साफ़ तौर पर मुश्किल दिखता है
      मैं इस क्षेत्र का विशेषज्ञ नहीं हूँ, पर क्या मैं कुछ मिस कर रहा हूँ? अगर x86 industry Nvidia के दिए हुए विकल्प से बाहर निकलना चाहती है, तो Intel को किसी न किसी तरह “बेहतर” वाली शर्त पूरी करनी होगी
    • AMD और Intel, दोनों ने OpenCL implement किया था, और Nvidia ने भी। industry उस common language के ऊपर build कर सकती थी
      लेकिन इसके बजाय CUDA के ऊपर build किया और फिर शिकायत की कि दूसरे hardware vendors के पास CUDA नहीं है
      मेरा मानना है कि OpenCL एक common subset था, जिस पर कई कंपनियाँ implementation देने पर सहमत हो सकती थीं। मैंने ऐसा code लिखा है जो CUDA, OpenCL, C++, और OpenMP सबमें compile होता था, और बार-बार वही होता था: “क्या, OpenCL यह भी नहीं कर सकता? धत्त”
    • Intel ने कुछ साल पहले OneAPI के साथ कोशिश की थी। लेकिन तब तक वह कई दशक पीछे था, और अब उसे पकड़ने में समय लग रहा है
    • Apple का भी यही हाल है। इस स्थिति में किसी ने भी पूरी तरह समर्पण नहीं किया, और उसका नतीजा यह हुआ कि एक अत्यधिक integrated competitor ने बाज़ार समेट लिया। अब पीछे मुड़कर देखें तो OpenCL की value proposition काफ़ी अधिक स्पष्ट लगती है

  • अच्छा होगा अगर AI क्षेत्र को गहराई से जानने वाला कोई समझाए कि CUDA की असली moat क्या है
    यह सबके लिए स्पष्ट है कि बात hardware नहीं, software की है—यानी CUDA ecosystem की
    मैंने पहले machine learning में थोड़ा काम किया है, लेकिन model train और tune करने के स्तर पर मैं high-level libraries इस्तेमाल करता था, और जहाँ तक मुझे पता है, वे libraries बस if statement से तय कर लेती थीं कि कौन-सा backend इस्तेमाल करना है
    तो अगर मान लें कि Intel आदि कोई practical competitor बना लें, तो क्या यह सोचना गलत है कि बहुत-से users के लिए switch करना आसान होगा? researchers या सीमा को आगे धकेलने वालों के लिए शायद नहीं, लेकिन ज़्यादातर कंपनियों के लिए migration cost बहुत बड़ी नहीं लगती

    • समझ सही है, लेकिन आधार मान लेना बिल्कुल आसान नहीं है। CUDA में डाला गया काम बहुत विशाल है, और NVIDIA अपने competitors के पीछे आने का इंतज़ार करते हुए रुका नहीं है
    • यह स्थिति शुरुआती IBM PC wars जैसी बहुत लगती है। शुरुआत में IBM PC और कई “compatibles” थे, लेकिन वे पूरी तरह drop-in compatible नहीं थे, बस अधूरे compatible थे, इसलिए कई programs को फिर से compile करना पड़ता था
      ऐसे products बड़ी अमेरिकी कंपनियों ने भी बनाए थे। उनका लक्ष्य PC को commodity बनाना नहीं था, बल्कि बड़े बाज़ार का एक छोटा हिस्सा लेना था
      असली PC clones, यानी शुद्ध drop-in compatible products, ताइवान में बने और उन्होंने बाज़ार पर कब्ज़ा कर लिया। बड़ी कंपनियाँ ऐसा commoditized market नहीं चाहतीं जहाँ कीमतें कम हों और सब बराबरी के मैदान में प्रतिस्पर्धा करें। “सहज switching” ठीक वही नतीजा लाती है, इसलिए ये कंपनियाँ उसे बनाती ही नहीं हैं
    • ज़रूरत बस इतनी है कि high-level libraries पर dollar per compute performance बराबरी पर आ जाए। बस इतना ही
      बेशक, कहना जितना आसान है, करना उतना नहीं। Google का TPU भी अभी H100 की dollar-per-FLOP performance को match करने में जूझ रहा है, और अगर आप Jax नहीं इस्तेमाल कर रहे, तो इसे इस्तेमाल करना भी काफ़ी झंझट भरा है
    • Nvidia के बारे में कहा जा सकता है कि उसने bottom-up approach अपनाई। उसने parallel processing hardware से शुरुआत की और उसके ऊपर development environment बनाया
      competitors, खासकर Intel, top-down approach से बाज़ार में आने की कोशिश करते दिखते हैं। वे sequential processing hardware का इस्तेमाल करके inference market का कुछ हिस्सा लेना चाहते हैं, और व्यवहार में Nvidia में हो रहे innovation पर निर्भर हैं। CUDA हमेशा एक कदम आगे रहेगा
    • यह कहना गलत है कि moat software है। moat मुख्यतः अब भी price-performance के हिसाब से बेहद उत्कृष्ट compute hardware और बहुत अच्छे networking equipment में है
      बड़े पैमाने के LLM training में CUDA कोई बड़ी moat नहीं है। Anthropic के CUDA से Trainium पर जाने से यह दिखता है। संभव है कि उन्होंने सारे kernels Trainium के लिए फिर से लिखे हों

  • ऐसा नहीं लगता कि लोग CUDA से बाहर निकलना चाहते हैं। पिछले कुछ महीनों में मैंने कई models और tools देखे हैं, और उनमें से ज़्यादातर लगभग ऐसे ही हैं
    device = "cuda" if torch.cuda.is_available() else "cpu"
    मैंने अभी तक AMD का neural network middleware लागू किया हुआ एक भी नहीं देखा: https://www.amd.com/en/developer/zendnn.html

    • मैंने खुद इसे इस्तेमाल नहीं किया है, लेकिन मेरी समझ यह है कि PyTorch के लिए AMD/ROCm acceleration backend cuda device और modules को overload करता है ताकि ROCm capability checks में CUDA जैसा दिखे
      वे switching को smooth बनाना चाहते हैं, और क्योंकि बहुत सा existing code CUDA की जांच करता है, वे वही करते हैं जो उस code को चलाने के लिए ज़रूरी है
    • यह काफ़ी हद तक chicken-and-egg problem है। ऐसे projects के developers के पास testing के लिए संबंधित AMD devices होने की संभावना भी कम है। वे आखिर क्यों रखेंगे?
      इस चक्र को तोड़ने का समझदारी भरा तरीका यह होगा कि AMD प्रमुख लोकप्रिय projects में code, tests, और आसान “just works” installation के रूप में सक्रिय योगदान दे, ताकि AMD support जुड़े और बाद में hardware ज़्यादा बिके। लेकिन AMD ऐसा करती हुई नहीं दिखती
    • लगता है आपने MI300X announcement नहीं देखा। AMD इस्तेमाल करने के लिए वह लाइन बदलने की ज़रूरत नहीं है
    • zendnn CPU के लिए है। PyTorch के ROCm version में code की एक भी लाइन बदलने की ज़रूरत नहीं है
      इसलिए AMD GPU इस्तेमाल करते समय भी device = "cuda" जैसा अर्थ वैसे का वैसा काम करता है

  • Intel ने पिछले 10 साल में कुछ भी नहीं किया। उसने मुश्किल से काम करने वाले GPU पर अरबों डॉलर बर्बाद किए, और CPU monopoly पर टिककर innovation को धीमा करते हुए सिर्फ़ मुनाफ़ा निकाला
    कम से कम Nvidia ने AI प्रगति में मदद करने वाली कोई चीज़ बनाई, और उसकी bold bet सफल रही

  • Pat Gelsinger और Lisa Su दोनों ही software को बिल्कुल नहीं समझते, और ऐसा भी नहीं लगता कि वे delegation कर पाते हैं। वे उम्मीद करते हैं कि “community” उनके बेहद जटिल hardware के लिए software बना देगी
    Nvidia की Bill Daly presentation [1] को देखें तो साफ़ दिखता है कि उन्होंने hardware और software को साथ-साथ आगे बढ़ाया है। CUDA programming model बहुत पहले लगाया गया एक बहुत बड़ा दांव था, और उन्होंने machine learning/AI में वाजिब रूप से जीत हासिल की
    अगर Intel और AMD में बुनियादी बदलाव नहीं आता, तो खेल ख़त्म है। वे ARM और Nvidia से हार जाएंगे
    [1] https://www.youtube.com/watch?v=kLiwvnr4L80

    • ऐसा नहीं है कि वे समस्या को समझते नहीं हैं। अभी एक विशाल market land grab चल रहा है, और कहीं भी ऐसी जगह नहीं है जो parallel computing का पहिया फिर से बनाने में resources बर्बाद करना चाहती हो
      यह लोगों के कहने से कहीं ज़्यादा मुश्किल काम है

  • 10 साल पहले ही नाव निकल चुकी थी। तब मैंने विश्वविद्यालय में general-purpose GPU computing का एक course लिया था, शायद उसका नाम “heterogeneous parallel programming” जैसा कुछ था, और पहली class में ही पता चला कि सारा hardware और material NVIDIA ने मुफ्त में दिया था
    नतीजा यह हुआ कि वह पूरी तरह CUDA course था जिसमें alternatives का कोई ज़िक्र ही नहीं था, बिल्कुल पुराने Word और Excel university courses जैसा
    Nvidia moats बनाने या खरीदने में सचमुच बहुत माहिर है
    PhysX में, अगर आपके पास Nvidia GPU नहीं था, तो SSE-capable CPU होने पर भी वह unoptimized FPU slow path पर गिर जाता था: https://arstechnica.com/gaming/2010/07/did-nvidia-cripple-it... https://www.realworldtech.com/physx87/3/ “Nvidia के नज़रिए से, x87 instructions और single thread का इस्तेमाल करके base CPU performance को कम करने से GPU बेहतर दिखता है”
    “The Way It’s Meant To Be Played” program में studios को पैसे देकर AMD को सीधे नुकसान में रखा गया। Ubisoft द्वारा DX10.1 patch वापस लेना इसका एक उदाहरण है: https://techreport.com/news/14707/ubisoft-comments-on-assass...
    “GameWorks” program में वे एक कदम और आगे गए और game studios को पैसे देकर Nvidia की performance-degrading libraries को सीधे games में डलवाया: https://techreport.com/review/21404/crysis-2-tessellation-to... https://arstechnica.com/gaming/2015/05/amd-says-nvidias-game... https://wccftech.com/fight-nvidias-gameworks-continues-amd-c...

  • यह भी पूरी तरह समझ में आता है कि NVIDIA के पास CUDA पर अपना दबदबा बनाए रखने की प्रेरणा है, और इस बाज़ार की परिस्थितियों में AMD और Intel जैसी दूसरी कंपनियों ने अवसर गंवाए हैं।
    लेकिन यह बात ध्यान देने लायक है कि जब ऐसी तकनीकी और functional moat किसी खास use case में वास्तविक एकाधिकार बनाए रखती है, तो आखिरकार उपभोक्ता को नुकसान होता है

    • ज़्यादातर मामलों में यह सही है, लेकिन CUDA के मामले में मुझे लगता है कि उपभोक्ता जीत रहे हैं। CUDA सिर्फ Nvidia GPU के लिए कोई खास गुप्त जटिल algorithm नहीं है। यह 10 साल तक कई industries में developer experience पर Nvidia के ध्यान का नतीजा है।
      CUDA सिर्फ AI के लिए नहीं, बल्कि physics, numerical modeling, cryptography, biology आदि में भी इस्तेमाल होता है। Nvidia ने हज़ारों use cases खोजे, ग्राहकों की राय सुनी और platform बनाया, और AI उसी का एक बड़ा revenue source बन गया।
      समस्या यह है कि Intel और AMD आगे भी सिर्फ “AI” की कमाई पर नज़र रखकर debugging, compiler, language integration, GUI और bug fixes समेत platform के बाकी हिस्सों को नज़रअंदाज़ कर सकते हैं।
      अगर Intel कहे, “हम OpenCL में अरबों डॉलर निवेश करेंगे, best-in-class developer experience और platform सुनिश्चित करेंगे, और CUDA को खत्म कर देंगे,” तो यह उत्साहजनक होगा। लेकिन अभी जो पढ़ने में आता है, वह ज़्यादा से ज़्यादा “हम PyTorch में CUDA function calls के कुछ हिस्से बदल देंगे” जैसा लगता है। यह तब तक मज़ेदार लगेगा, जब तक आपको performance issues debug करते समय यह एहसास न हो जाए कि GitHub पर सीधे CUDA engineers से बात करने के बजाय आपको किसी मृतप्राय Intel mailing list पर ईमेल भेजना पड़ेगा
    • AMD, Intel, Khronos बेहतर चीज़ के साथ खुलकर प्रतिस्पर्धा कर सकते हैं। NVIDIA उन्हें रोक नहीं रहा है।
      उस नज़रिए से CUDA उपभोक्ताओं के लिए बड़ा फ़ायदा है। क्योंकि विकल्प सचमुच बहुत खराब हैं