TPU की ओर बदलाव: AI स्पेशलाइज़्ड चिप्स के 10 साल के इतिहास पर एक नज़र

 (cloud.google.com)
8 पॉइंट द्वारा xguru 2024-08-06 | 2 टिप्पणियां | WhatsApp पर शेयर करें
  • लगभग 10 साल पहले Google के शोधकर्ताओं ने अनुमान लगाया था कि AI computing की मांग उस समय की infrastructure क्षमता से आगे निकल जाएगी
  • उन्हें एहसास हुआ कि उस समय बाजार में ऐसी कोई वैकल्पिक तकनीक नहीं थी जो इस मांग को पूरा कर सके, इसलिए उन्होंने एक नई तरह की चिप TPU (Tensor Processing Unit) का विकास शुरू किया

एकल विशिष्ट-उद्देश्य चिप

  • जहाँ CPU कंप्यूटर के सर्व-उद्देश्यीय "दिमाग" की तरह काम करता है, वहीं TPU AI के लिए optimized एक विशिष्ट-उद्देश्य चिप है
  • TPU एक ASIC (application-specific integrated circuit) है, जो AI models को बनाने और चलाने के लिए आवश्यक matrix और vector-आधारित mathematical operations में विशेषज्ञता रखता है
  • 2015 में internally deployed TPU v1 पूरे Google में तुरंत लोकप्रिय हो गया, और उसके बाद के 10 वर्षों में TPU ने performance और efficiency दोनों में लगातार प्रगति की

AI innovation के साथ कदम मिलाना

  • TPU का evolution machine learning और AI innovation से घनिष्ठ रूप से जुड़ा रहा है
  • TPU v1 inference पर केंद्रित था, लेकिन जल्द ही model training को अधिक efficient बनाने के लिए TPU v2 training supercomputer विकसित किया गया
  • इसके बाद TPU को और तेज cadence पर जारी किया गया, और इसने performance, efficiency और throughput में बड़ी छलांग लगाई
  • नवीनतम generation में data processing की गति इतनी तेज है कि chips के बीच connecting cables की routing पर भी सावधानी बरतनी पड़ती है

Sharing the love

  • शुरुआती दौर में सिर्फ Google ही AI models के development और execution के बेहतर तरीकों की तलाश नहीं कर रहा था
  • 2018 की शुरुआत में Google Cloud ने Cloud TPU की पहली generation लॉन्च की, ताकि ग्राहक अपने training और inference workloads को accelerate कर सकें
  • आज Anthropic, Midjourney, Salesforce जैसी प्रसिद्ध AI teams Cloud TPU का गहन उपयोग कर रही हैं
  • यह सारी processing capacity अभी भी सिर्फ शुरुआत भर है
  • आगे चलकर data center design को TPU की आवश्यकताओं के अनुरूप और बेहतर ढंग से बदलने की योजना है
  • एक single chip या single TPU pod से आगे बढ़कर, TPU से भरे global data center network का निर्माण किया जा रहा है
  • भविष्य silicon से concrete तक पूरी तरह customized solutions का होगा (The future is full stack customization all the way, from silicon to concrete)

संबंधित पढ़ाई

2 टिप्पणियां

 
ing03201 2024-08-06

TPU वाकई अपने समय से आगे की सोच थी
Google Pixel 2 XL के single-camera processing में यह बात साफ़ दिखी, और LLM के दौर में इसका स्वर्णकाल आ गया है
तो coral micro dev board का अपडेट भी कर दीजिए.... sob
 
ganadist 2024-08-06

Pixel के शुरुआती मॉडलों में शामिल इमेज प्रोसेसर (जिसे Visual Core कहा जाता था) Intel के Monette Hill प्लेटफ़ॉर्म पर आधारित है।