1 पॉइंट द्वारा GN⁺ 2024-10-30 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • OpenAI AI inference chip विकसित कर रहा है और foundry network योजना को छोड़ रहा है
  • Broadcom, OpenAI की chip design में मदद कर रहा है और TSMC में उसके निर्माण को संभव बनाने में सहयोग दे रहा है
  • OpenAI, chip supply में विविधता लाने के लिए AMD के AI chips भी जोड़ रहा है

OpenAI के internal chip design प्रयास और industry partnership का उपयोग

  • OpenAI, chip supply में विविधता लाने और लागत घटाने के लिए कई विकल्पों की समीक्षा कर रहा है
  • कंपनी फिलहाल अपनी महत्वाकांक्षी foundry योजना को रोककर internal chip design प्रयासों पर ध्यान केंद्रित करने की योजना बना रही है
  • OpenAI की strategy यह दिखाती है कि Amazon, Meta, Google और Microsoft जैसे बड़े प्रतिस्पर्धियों की तरह industry partnership तथा internal और external दोनों तरीकों का उपयोग करके chip supply कैसे सुरक्षित की जा सकती है और लागत को कैसे नियंत्रित किया जा सकता है
  • OpenAI, chip खरीदने वालों में सबसे बड़े खिलाड़ियों में से एक है, और custom chips विकसित करते हुए कई chipmakers से sourcing करने का उसका फैसला tech industry पर व्यापक प्रभाव डाल सकता है
  • Broadcom, Google जैसी कंपनियों को manufacturing के लिए chip design को fine-tune करने में मदद करता है, और ऐसे design components उपलब्ध कराता है जो chips के भीतर information को तेज़ी से स्थानांतरित करने में सहायक होते हैं
  • OpenAI ने Broadcom के माध्यम से TSMC की manufacturing capacity सुरक्षित की है, जिससे वह 2026 में अपना पहला custom-designed chip बना सकेगा
  • इस समय Nvidia के GPU की market share 80% से अधिक है
  • लेकिन supply shortage और बढ़ती लागत के कारण Microsoft, Meta और अब OpenAI जैसे बड़े ग्राहक internal या external alternatives तलाश रहे हैं
  • Microsoft के Azure के जरिए AMD chips का उपयोग करने का OpenAI का फैसला दिखाता है कि AMD का नया MI300X chip उस बाजार के एक हिस्से को हासिल करने की कोशिश कर रहा है, जिस पर Nvidia का दबदबा है
  • AI model training और ChatGPT जैसी services का संचालन महंगा है
  • OpenAI को इस साल 3.7 अरब डॉलर के revenue पर 5 अरब डॉलर के नुकसान की उम्मीद है
  • computing cost कंपनी का सबसे बड़ा खर्च है, जिसने utilization को optimize करने और vendors में विविधता लाने के प्रयासों को प्रेरित किया है

GN⁺ की राय

  • OpenAI के internal chip design प्रयास और विभिन्न chipmakers के साथ उसका सहयोग AI industry में एक महत्वपूर्ण बदलाव का संकेत देते हैं। इससे Nvidia के प्रभुत्व को चुनौती देने वाले नए alternatives बन सकते हैं और AI technology की प्रगति तेज़ हो सकती है
  • हालांकि, OpenAI की cost structure को लेकर चिंताएँ उठ सकती हैं। AI models के विकास और services के संचालन पर भारी खर्च होने की स्थिति में, long-term profitability और sustainability को लेकर सवाल बने हुए हैं
  • दूसरी ओर, AMD के MI300X chip जैसे नए AI chips का आगमन market competition को बढ़ावा देगा और ग्राहकों को अधिक विकल्प देगा। इससे AI technology के व्यापक प्रसार और commercialization में योगदान मिल सकता है
  • AI chip market में बढ़ती प्रतिस्पर्धा के कारण technological innovation के तेज़ होने और high-performance low-power chips की मांग बढ़ने की उम्मीद है। इसके साथ chip design और manufacturing क्षेत्र में investment तथा talent acquisition की प्रतिस्पर्धा भी और तीव्र होने की संभावना है
  • कंपनियों को AI chips अपनाते समय performance, cost, compatibility, scalability जैसे कई कारकों पर समग्र रूप से विचार करना चाहिए। long-term technology roadmap और business strategy के अनुरूप सबसे उपयुक्त chip चुनना महत्वपूर्ण है

1 टिप्पणियां

 
GN⁺ 2024-10-30
Hacker News राय
  • OpenAI ने चिप निर्माण के लिए "foundries" नाम का फैक्ट्री नेटवर्क बनाने की योजना छोड़ दी है। इसकी वजह लागत और समय की समस्या है

    • OpenAI की योजना 7 ट्रिलियन डॉलर जुटाकर 36 AI silicon निर्माण फैक्ट्रियां बनाने की थी
    • बताया जाता है कि TSMC के अधिकारियों ने यह योजना सुनकर हंसी उड़ाई
  • OpenAI Google के hardware engineers को बड़ी संख्या में भर्ती कर रहा है

    • LinkedIn पर OpenAI के hardware engineer प्रोफाइल देखने पर पता चलता है कि उनमें से कई पहले Google में काम कर चुके हैं
    • Google की TPU टीम पहले की तुलना में कमजोर हुई है, और आगे चलकर Google TPU के OpenAI चिप से कमतर होने की संभावना भी है
  • Google के TPU विकास में Broadcom की मदद रही है

    • Broadcom ने Google के TPU विकास में योगदान दिया था, इसे देखते हुए यह स्वाभाविक है कि पूर्व Google कर्मचारी नई कंपनी में भी यह संबंध बनाए रखें
  • infrastructure की मांग पूरी करने के लिए AMD और NVIDIA चिप्स को भी जोड़ने की कोशिश हो रही है

    • मांग "पागलों की तरह" बढ़ रही है, और इससे supply की समस्या पैदा हो सकती है
    • Fortune 500 कंपनियां अपने सभी संसाधन एक ही जगह केंद्रित नहीं करतीं, और AI hardware व software के स्रोतों में विविधता लाना समझदारी है
  • ऐसा लगता है कि OpenAI अपने खुद के data centers बना रहा है, लेकिन लेख में इसका स्पष्ट उल्लेख नहीं है

    • यह जानने की जिज्ञासा है कि क्या TSMC के अलावा पश्चिमी दुनिया में AI/मैट्रिक्स-मल्टिप्लिकेशन चिप्स बनाने वाला कोई और है
    • NVIDIA, AMD, Google, OpenAI सभी TSMC का उपयोग कर रहे हैं
    • क्या Samsung प्रतिस्पर्धी नहीं है, यह भी सवाल है
  • यह जानने की जिज्ञासा है कि नई चिप को बनाकर training/inference में इस्तेमाल करने में कितना समय लगेगा

  • GH Copilot के अलावा अभी तक LLMs का कोई सामाजिक/सांस्कृतिक प्रभाव नहीं दिखा है

    • उम्मीद है कि इसका कोई व्यापक और टिकाऊ, उत्पादक सांस्कृतिक प्रभाव समाज पर पड़ेगा
  • OpenAI अपनी खुद की chip design और manufacturing के जरिए प्रतिस्पर्धात्मक बढ़त हासिल करना चाहता था

    • अपनी खुद की चिप लागत के लिहाज से बड़ा फायदा दे सकती है
    • शायद उन्होंने सोचा हो कि अपनी chip design से शुरुआत करना ही पर्याप्त होगा
  • 7 ट्रिलियन डॉलर खर्च करके अपनी फैक्ट्रियां बनाना एक महत्वाकांक्षी और लापरवाह योजना थी

    • लगता है कि अब उन्होंने हकीकत को स्वीकार कर योजना को छोटा किया है
    • उम्मीद है कि गुणवत्ता बनी रहे
  • यह दिलचस्प है कि TSMC के साथ अपनी चिप बनाना ही "छोटी की गई" योजना माना जा रहा है