Apple ने M3, M3 Pro, M3 Max पेश किए

 (apple.com)
1 पॉइंट द्वारा GN⁺ 2023-11-01 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • Apple ने Mac के लिए नए M3, M3 Pro, M3 Max चिप्स एक साथ पेश किए हैं, और ये तीनों चिप्स personal computer के लिए पहली बार 3nm process का उपयोग करते हैं, जिससे speed और power efficiency बढ़ती है
  • नया GPU architecture Dynamic Caching के साथ हर workload के लिए ज़रूरी local memory को real time में allocate करता है, और Mac पर पहली बार hardware-accelerated ray tracing और mesh shading को support करता है
  • performance improvements को M1 की तुलना में rendering में अधिकतम 2.5x, performance cores में 30%, efficiency cores में 50%, और Neural Engine में 60% तक बताया गया है, जबकि media engine में AV1 decoding जोड़ा गया है
  • हर chip के लिए maximum unified memory क्रमशः M3 में 24GB, M3 Pro में 36GB, और M3 Max में 128GB तक बढ़ाई गई है, जिससे सामान्य Mac से लेकर high-performance pro workloads तक अलग-अलग जरूरतें पूरी होती हैं
  • power efficiency में सुधार नए MacBook Pro और iMac की energy efficiency में योगदान देता है, और Apple के tests के अनुसार नया MacBook Pro, Mac इतिहास में सबसे लंबी 22 घंटे तक की battery life देता है

3nm process पर आधारित M3 family

  • Apple ने M3, M3 Pro, M3 Max तीनों चिप्स की घोषणा करते हुए Mac के लिए Apple silicon की अगली पीढ़ी पेश की
  • ये तीनों चिप्स personal computer के लिए पहली बार 3nm process technology पर बनाए गए हैं, जिससे छोटे space में अधिक transistors समाकर speed और efficiency बढ़ती है
  • नए चिप्स नए MacBook Pro और iMac में इस्तेमाल किए जाएंगे
  • बड़े बदलाव GPU, CPU, memory और media engine के पूरे stack में हैं
    • next-generation GPU architecture
    • तेज़ CPU performance cores और efficiency cores
    • तेज़ Neural Engine
    • अधिक unified memory support
    • AV1 decoding सहित नया media engine

next-generation GPU और Dynamic Caching

  • M3 family का GPU, Apple silicon graphics architecture में बड़ा बदलाव माना जा रहा है
  • Dynamic Caching, पारंपरिक GPU के विपरीत, local memory usage को hardware स्तर पर real time में allocate करता है
    • हर task के लिए केवल उतनी ही memory उपयोग होती है जितनी वास्तव में ज़रूरी है
    • यह developers के लिए transparent तरीके से काम करता है
    • इससे GPU का औसत utilization बढ़ता है और high-performance pro apps व games की performance बेहतर होती है
  • Mac पर पहली बार hardware-accelerated ray tracing को support किया गया है
    • ray tracing, scene में light interaction को model करके physically accurate images बनाने में मदद करता है
    • game developers इससे अधिक सटीक shadows और reflections बना सकते हैं
  • नया GPU, Mac पर पहली बार hardware-accelerated mesh shading को भी support करता है
    • इससे geometry processing capability और efficiency बढ़ती है
    • games और graphics-intensive apps में अधिक complex scenes संभव होते हैं
  • GPU performance को M1 family की तुलना में काफ़ी बेहतर बताया गया है
    • rendering speed, M1 family की तुलना में अधिकतम 2.5x तेज़ है
    • M3 GPU, M1 के समान performance लगभग आधी power पर देता है
    • peak performance, M1 की तुलना में अधिकतम 65% अधिक है

CPU, unified memory, AI·video engine

  • M3, M3 Pro, M3 Max की next-generation CPU architecture में performance cores और efficiency cores दोनों में सुधार किया गया है
    • performance cores, M1 family की तुलना में अधिकतम 30% तेज़ हैं
    • efficiency cores, M1 की तुलना में अधिकतम 50% तेज़ हैं
    • वही multithreaded performance, M1 की लगभग आधी power पर दी जा सकती है
    • peak power पर अधिकतम 35% बेहतर performance मिलती है
  • Apple ने CPU performance improvement के उदाहरण के रूप में Xcode में millions of lines of code compile और test करना, तथा Logic Pro में hundreds of audio tracks, plugins और virtual instruments का उपयोग बताया
  • हर chip, Apple silicon की विशेषता unified memory architecture का उपयोग करती है
    • एक single memory pool के माध्यम से chip के भीतर की कई technologies एक ही data तक पहुँचती हैं
    • इससे अलग-अलग memory pools के बीच data copy करने की आवश्यकता कम होती है
    • यह high bandwidth, low latency और power efficiency प्रदान करता है
  • unified memory support को अधिकतम 128GB तक बढ़ाया गया है
    • Apple ने उदाहरण दिया कि AI developers इससे billions of parameters वाले बड़े transformer models को संभाल सकते हैं
  • बेहतर Neural Engine, M1 family की तुलना में अधिकतम 60% तेज़ है
    • यह AI/ML workflows को तेज़ी से process करते हुए data को device पर ही रखता है, जिससे privacy बनी रहती है
    • Topaz के noise removal और super resolution जैसे AI image processing tools तेज़ होते हैं
    • Adobe Premiere का scene edit detection और Final Cut Pro का Smart Conform भी performance improvements पाते हैं
  • तीनों chips का media engine, H.264, HEVC, ProRes और ProRes RAW के लिए hardware acceleration देता है
    • पहली बार AV1 decoding को support किया गया है, जिससे streaming services playback के दौरान power efficiency बढ़ सकती है और battery time लंबा हो सकता है

chip configurations और target workloads

  • M3 आम उपयोग वाले systems के लिए chip है
    • इसमें 25 billion transistors हैं, जो M2 से 5 billion अधिक हैं
    • 10-core GPU, M1 की तुलना में graphics performance को अधिकतम 65% तक बढ़ाता है
    • 8-core CPU में 4 performance cores और 4 efficiency cores हैं
    • CPU performance, M1 की तुलना में अधिकतम 35% तेज़ है
    • यह अधिकतम 24GB unified memory को support करता है
    • Apple ने Myst जैसे graphics-intensive games में realistic lighting, shadows और reflections का उदाहरण दिया
  • M3 Pro उन users के लिए है जिन्हें अधिक performance चाहिए
    • इसमें 37 billion transistors हैं
    • 18-core GPU, M1 Pro की तुलना में अधिकतम 40% तेज़ है
    • यह अधिकतम 36GB unified memory को support करता है
    • 12-core CPU में 6 performance cores और 6 efficiency cores हैं
    • single-thread performance, M1 Pro की तुलना में अधिकतम 30% तेज़ है
    • Apple ने Adobe Photoshop में बड़े panoramic photos को stitch और manipulate करने का उदाहरण दिया
  • M3 Max सबसे demanding pro workloads के लिए chip है
    • इसमें 92 billion transistors हैं
    • 40-core GPU, M1 Max की तुलना में अधिकतम 50% तेज़ है
    • यह अधिकतम 128GB unified memory को support करता है
    • 16-core CPU में 12 performance cores और 4 efficiency cores हैं
    • CPU performance, M1 Max की तुलना में अधिकतम 80% तेज़ है
    • दो ProRes engines के साथ इसे DaVinci Resolve, Adobe Premiere Pro और Final Cut Pro में high-resolution video post-production को तेज़ और लचीले ढंग से संभालने के लिए डिजाइन किया गया है

power efficiency, battery, environment plan

  • M3, M3 Pro, M3 Max की power efficiency नए MacBook Pro और iMac को Apple के energy efficiency standards पूरा करने में मदद करती है
  • नया MacBook Pro, Mac इतिहास की सबसे लंबी battery life के रूप में 22 घंटे तक देता है
    • Apple का testing सितंबर और अक्टूबर 2023 में pre-production 16-inch MacBook Pro systems पर किया गया
    • test system में Apple M3 Pro, 12-core CPU, 18-core GPU, 36GB RAM और 512GB SSD configuration था
    • wireless web test में display brightness को नीचे से 8 clicks पर सेट करके 25 लोकप्रिय websites को wireless तरीके से browse किया गया
    • Apple TV app movie playback test में उसी brightness condition पर HD 1080p content चलाया गया
    • battery life, usage pattern और configuration के अनुसार बदलती है
  • Apple ने कहा कि उसने फिलहाल अपने global corporate operations में carbon neutral status हासिल कर लिया है
  • कंपनी 2030 तक अपने पूरे manufacturing supply chain और सभी products के lifecycle सहित पूरे business में net-zero climate impact हासिल करने की योजना रखती है
  • इस योजना के अनुसार, सभी Mac के सभी chips design से manufacturing तक carbon neutral होंगे

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2023-11-01
Hacker News की रायें

  • SKU कॉन्फ़िगरेशन को धीरे-धीरे और जटिल होते देखते हुए कुछ बातें ध्यान में आईं। मेमोरी बैंडविड्थ कम हो गई है; M2 Pro में 200GB/s था, लेकिन M3 Pro में सिर्फ 150GB/s है, और M3 Max में भी 400GB/s केवल ऊपरी बिन वाले चिप्स पर है
    लोअर-स्पेक M3 14-इंच में Thunderbolt पोर्ट एक कम ही नहीं है, बल्कि M1/M2 की तरह आधिकारिक तौर पर Thunderbolt 4 भी सपोर्ट नहीं करता। M3 Pro में 8TB SSD विकल्प भी गायब हो गया है, शायद इसलिए कि उस कॉन्फ़िगरेशन की मांग कम थी। साथ ही M3 Pro में Max की तुलना में efficiency cores ज़्यादा हैं (6 बनाम 4), इसलिए हाई-एंड स्पेक से इस तरह चीज़ें हटाना दिलचस्प है—मुझे लगता है Intel शायद ऐसा कम ही करता

    • सोचता हूँ कि क्या Apple जारी किए गए डिवाइसेज़ पर इस तरह के usage stats ट्रैक करता है। iPad हमेशा पूछता है कि क्या वह Apple को statistics भेजे, और मैं हमेशा मना कर देता हूँ, लेकिन अगर पर्याप्त लोग सहमति देते हों तो performance core usage frequency या अधिकतम memory bandwidth usage जैसी चीज़ों का काफ़ी अच्छा अंदाज़ा लगाया जा सकता है
      जब मैं Intel में था, तब silicon area, heat और margin resources के बीच हमेशा दिलचस्प trade-offs होते थे, लेकिन उस समय Intel के पास stats इकट्ठा करने का तरीका नहीं था, इसलिए ज़्यादातर बातें “फिर भी हमें लगता है कि ऐसा करना चाहिए” वाले स्तर पर थीं और डेटा ज़्यादा नहीं था
    • घटी हुई memory bandwidth के अलावा, M3 Pro ने 2 performance cores खो दिए हैं और सिर्फ 2 efficiency cores बढ़ाए हैं
      M2 Pro में 8 performance cores + 4 efficiency cores थे, जबकि M3 Pro में 6 performance cores + 6 efficiency cores हैं। यह कोई बहुत अच्छा trade-off नहीं है, और मुझे पक्का नहीं कि M3 Pro को upgrade माना जा सकता है
    • शायद इसलिए क्योंकि बेस M-series SoC सिर्फ एक external display सपोर्ट करता है। मेरी समझ में Thunderbolt 4 specification एक ही पोर्ट से 2 external displays सपोर्ट करने की मांग करता है
      बाकी सभी मामलों में मुझे उम्मीद है कि वह पोर्ट Thunderbolt 4 पोर्ट की तरह ही काम करेगा
    • समझ नहीं आया कि Intel क्या नहीं करता। Intel की अधिकांश product line में efficiency cores performance cores से ज़्यादा हैं, खासकर high-end products में। उदाहरण के लिए Raptor Lake S के सभी i9 में 16 efficiency cores और 8 performance cores हैं, i7 में 8:8 है, और सिर्फ lower i5 products (13500 से नीचे) में performance cores ज़्यादा हैं। i3 में efficiency cores नहीं हैं
      Mobile H/HX भी ऐसा ही है, जहाँ performance cores efficiency cores से ज़्यादा वाले SKU बहुत कम हैं, और P/U में तो बिल्कुल नहीं। बल्कि जब Intel ने asymmetric SMT लाना शुरू किया, तो मुझे जिन बातों पर आश्चर्य हुआ उनमें से एक यह थी कि mobile और Apple आम तौर पर 1:1 थे या performance cores की तरफ झुके थे, जबकि Intel efficiency cores पर बड़ा दांव लगाता दिख रहा था
    • SKU जटिल होते जाना शायद इसलिए है कि Apple भी सीख रहा है कि Intel/AMD के इतने सारे SKU क्यों होते हैं। जटिल chips को बड़े पैमाने पर बनाते समय कई तरह के अपूर्ण chips निकलते हैं, और नुकसान घटाने के लिए उन्हें एक ही SKU के रूप में बेचकर बाकी फेंकने की बजाय binning और segmentation के जरिए कई SKU बनाने पड़ते हैं

  • Intel Mac से तुलना वाला हिस्सा थोड़ा उलझाऊ था। मैं अभी भी Intel 16-इंच MacBook इस्तेमाल करता हूँ, लेकिन सच में जो देखना चाहता था वह यह था कि M3, M2 की तुलना में कैसा है—Intel या M1 से तुलना नहीं। Apple के अपने benchmark में M3 का Intel Core i7-9750H को लगभग हर जगह हराना कोई हैरानी की बात नहीं है
    असली सवाल ठीक पिछली generation से तुलना का है, और शायद अगले हफ्ते तक इसका जवाब मिल जाएगा। मेरा work laptop 14-इंच MacBook Pro है, और development flow के हिस्से के रूप में Kubernetes पर कई containers चलाने के बावजूद battery life प्रभावशाली है। Apple ने Intel और M1 से तुलना शायद मौजूदा MacBook users को latest-generation CPU पर upgrade करने के लिए मनाने के इरादे से की होगी

    • M2 Mac से upgrade करने वाले लोग लगभग 0 के बराबर होंगे, और अभी भी Intel Mac पर टिके हुए लोग कहीं ज़्यादा होंगे
    • कई सालों से Apple का सबसे बड़ा competitor 5 साल पुराना Apple है। सबसे बड़े खतरों में से एक यह है कि लोग कुछ साल पहले खरीदे गए ठीक-ठाक laptops और phones इस्तेमाल करते रहते हैं, जिससे sales ठहर जाती हैं
      लंबे समय तक चलने वाले premium products का विज्ञापन करने वाली कंपनी के लिए यह संभालना मुश्किल समस्या है
    • इस समय M2 से तुलना करना बहुत उपयोगी नहीं है। पूरी presentation में improvements कुछ क्षेत्रों में लगभग 15~20% के आसपास थे
      Apple अपने chips खुद बनाता है, फिर भी हर साल क्रांतिकारी performance improvements नहीं दे सकता, इसलिए आगे भी दो generations के बीच लंबे समय तक इसी तरह का अंतर दिखेगा। Apple मानता है कि लोग Mac कई सालों तक इस्तेमाल करेंगे, इसलिए upgrade के लिए मनाने में पुराने generations से तुलना करना उचित है
    • अगर ARM images इस्तेमाल नहीं करते, तो Docker images boot करने के लिए उन्हें virtual machine में चलना पड़ता है। फिर भी इतने सारे containers चलाने पर laptop का छूने पर ठंडा रहना और battery का भरा रहना वाकई हैरान करता है
    • यह और भी अजीब लगा कि AI-specific benchmarks एक भी नहीं थे। पता है कि सबसे popular open-source models साफ़ तौर पर competitors की तरफ से आए हैं, लेकिन machine-learning programmer workflow के हिसाब से retraining जैसा कोई काम तो define किया जा सकता था

  • Laptop में ढंग के I/O की कमी से काफ़ी निराशा है। वे GPU के कितने आगे बढ़ने की बात बहुत देर तक करते हैं, लेकिन $1,600 का laptop सिर्फ एक external display चलाए और $2,000 वाला सिर्फ दो—यह निराशाजनक है
    ऊपर से desktop लाइन को इस तरह कमजोर किया जा रहा है कि M2 सिर्फ all-in-one में मिल रहा है, इसलिए अगर अभी store जाकर कोई दूसरा desktop खरीदना हो तो पुरानी technology के लिए बड़ा premium देना पड़ेगा। FaceID और बेहतर display support की उम्मीद थी, लेकिन कुछ upgrade करने के लिए कोई convincing वजह नहीं दिखी। अगर आप पहले से Windows पसंद करते थे, तो अब भी Windows ही पसंद करेंगे, और अगर आपके पास पहले से M processor है, तो upgrade करने की बहुत बड़ी वजह नहीं है। अगर Studio या mini लेने की सोच रहे थे, तो processor refresh होने तक इंतज़ार करना बेहतर है

    • सही है। Mac पर दो या अधिक screens चलाने की प्रक्रिया सीधी नहीं है। Apple “Pro” devices के लिए जो कीमत लेता है, उसे देखते हुए काम करने के लिए दो या उससे ज़्यादा screens लगाना आसान होना चाहिए
    • “M2 सिर्फ all-in-one में देना” वाली बात उलझाती है। iMac ने M2 को skip किया था, और अगले महीने ship होने वाला नया model M1 model की जगह लेने वाला सामान्य M3 chip लेकर आएगा
    • एक external display driver से भी 4K या उससे कम resolution पर कई displays चलाए जा सकते हैं। DisplayLink adapter इस्तेमाल करने पर, सिर्फ एक external display driver वाले Mac पर भी दो 4K monitors को daisy-chain किया जा सकता है। अंदरूनी तौर पर यह शायद उसी display output को दो screens पर reuse करने का तरीका है
      USB-C एक 6K monitor या दो 4K monitors चला सकता है, और M2 Pro के बाद HDMI port एक 8K monitor चला सकता है

  • M2 Pro और M3 Pro में दिलचस्प बात यह है कि वे उस configuration से दूर चले गए हैं जिसमें ज़्यादातर performance cores होते थे। M1 Pro में 6+2 या 8+2 performance+efficiency cores थे, M2 Pro में 6+4 या 8+4 थे, और नए M3 Pro में 5+6 या 6+6 हैं
    Apple हर generation में performance cores का अनुपात घटाता आया है। M1 Pro में 75–80%, M2 Pro में 60–67%, और M3 Pro में 45–50% है। यह Geekbench results में भी दिखता है: 10-core M2 Pro (6+4) का score 12,100 है, और 10-core M1 Pro (8+2) का 12,202। 12-core M2 Pro (8+4) का score 14,221 है, यानी cores 20% बढ़ने के मुकाबले 16.5% की बढ़त
    यह कुछ अजीब result जैसा लगता है। M2 performance cores 2 और जोड़ने पर भी 10-core M2 Pro की तुलना में अपेक्षाकृत छोटी बढ़त मिलती है, जबकि M1 Pro में efficiency cores 2 जोड़ने पर भी 8+2 M1 Pro की तुलना में वही 16.5% बढ़त मिलती है। अनुमान लगाएं तो benchmark चलने के दौरान thermal limit लग सकती है। अगर अतिरिक्त performance cores 100% load पर असली performance core की तरह काम नहीं कर पाते, तो उनका असर छोटा दिखेगा; और उल्टा, अगर efficiency cores high-heat load में performance cores जैसी performance दे दें, तो benchmark में वे लगभग बराबर दिख सकते हैं
    यह भी जिज्ञासा है कि real-world usage scenarios benchmark से meaningful तरीके से अलग हो सकते हैं या नहीं। उदाहरण के लिए core pinning warm cache के लिए उपयोगी हो सकती है, और real situations में OS किसी process को performance core 1 पर pin कर सकता है और दूसरे process को performance core 2 पर, फिर दोनों में usage spike आ सकता है। ऐसे में overall thermal load ज्यादा नहीं होता, इसलिए performance cores peak performance बनाए रखते हैं, और दोनों को performance core और warm cache के फायदे मिलते हैं
    शायद यह chip performance से ज्यादा business decision भी हो सकता है। M1/M2 Max का बड़ा selling point graphics था, और शायद extra RAM भी। Pro या Max में वही CPU मिल सकता था, लेकिन अब M3 Pro में 5+6 या 6+6 CPU है और M3 Max में 10+4। performance cores 67–100% ज्यादा होना graphics में खास interest न रखने वालों के लिए भी M3 Max का selling point बन जाता है

    • आखिरी paragraph सही लगता है। Max उन लोगों के लिए है जो संभव highest performance चाहते हैं और इसके लिए battery life से compromise करते हैं, और लगता है Apple देख रहा है कि कहीं ज्यादा बड़ा user base Pro chip खरीदता है
      मेरे अनुभव में tech field का कोई व्यक्ति जब अपनी Apple Silicon machine का ज़िक्र करता है, तो लगभग हमेशा वह Pro chip होती है। उस user base में सभी cores को अक्सर full load पर चलाने वाले लोग कम होंगे, लेकिन बहुत-से लोग निश्चित रूप से शानदार battery life का फायदा उठा रहे होंगे
    • यहां Apple, Intel से सीखता हुआ लगता है
      Apple ने पिछली कुछ generations में efficiency cores को काफी तेज बना दिया है। आकार बहुत छोटा होने के बावजूद performance लगभग 50% तक पहुंच जाती है, और power करीब 10 गुना कम लगती है। diminishing returns की जय हो
      अगर कोई workload सिर्फ 1–4 cores तक scale होता है, तो उन cores का तेज होना जरूरी है; लेकिन आम तौर पर अगर वह उससे आगे scale होता है, तो बहुत सारे cores तक भी scale होने की संभावना होती है। इस नजरिए से 6–8 performance cores कुछ lightweight threaded tasks साथ-साथ चलाने के लिए पर्याप्त हैं, और आमतौर पर उससे ज्यादा नहीं चलाए जाते
      उसके बाद, performance core+cache के एक block की जगह में 4–6 efficiency cores+cache डाले जा सकते हैं, इसलिए power आधी ही लगती है, जबकि high-scalability workloads में काफी ज्यादा performance मिलती है। AMD भी Zen 4c और 5c chiplets के साथ इसी दिशा में जा रहा है, इसलिए उसके पास एक performance chiplet और कई efficiency chiplets होंगे। area और power gains इतने बड़े हैं कि उन्हें ignore करना मुश्किल है
    • GPU, उस thermal output का बहुत बड़ा हिस्सा लेता है जिसके लिए ये SoC design किए गए हैं, इसलिए अगर सिर्फ CPU पर load डाला जाए तो thermal limit नहीं लगनी चाहिए
    • CPU cores की तुलना में GPU core scaling से फायदा लेना कहीं आसान है

  • 36GB option क्यों है, यह जानने की उत्सुकता है। बाकी memory configurations (16GB, 64GB) अभी भी साफ-सुथरे powers of two हैं। capacity को देखें तो ऐसा लगता है जैसे ECC-capable memory इस्तेमाल करते हुए ECC support के लिए extra width को data के लिए इस्तेमाल किया जा रहा हो, लेकिन समझ नहीं आता कि यह सिर्फ एक capacity पर ही क्यों लागू है। क्या यह parts supply की वजह से है
    थोड़ा खोजने पर लगा कि पुराने नजरिए से expected 2^32 words की 72-bit wide bus एक या उससे ज्यादा होने के बजाय, शायद यह प्रति bus 6GiB वाली छह 32-bit wide buses हैं। ऐसी 1.5 * 2^N depth memory IC stacking के साथ काफी आम हो गई है, और इसमें single package में power-of-two size के 12 ICs stack किए जाते हैं। यह उसी IC को 8-high या 16-high stack करके powers of two बनाने के ज्यादा “आसान” तरीके से अलग है

    • हाल में 6/12 के multiples वाली configurations ज्यादा इस्तेमाल हो रही हैं, शायद यह LPDDR5X में उपलब्ध chip capacities से जुड़ा है
      M2 और M3 में maximum 24GB, M3 Pro में 18GB और 36GB, M3 Max में 36GB, 48GB, 64GB, 96GB, 128GB configurations हैं
    • ऐसा लगता है कि M1/M2 Pro में 200GB/s रही memory bandwidth को M3 Pro में घटाकर 150GB/s कर दिया गया है। M1/M2 Max chips में संभव पूरी 400GB/s bandwidth पाने के लिए top-end M3 Max chip पर जाना होगा
    • इसका ECC से कोई संबंध नहीं है। यह LPDDR5X memory इस्तेमाल कर रहा है, और अगर आपने Android phones को follow किया है तो ये numbers चौंकाने वाले नहीं होंगे
    • सच कहूं तो मुझे वह ज्यादा पसंद है। पिछली generation में अगर 16GB memory अक्सर भर जाती थी और upgrade का समय आ गया था, तो जरूरी नहीं कि आपको double memory चाहिए हो; 24GB अच्छा लगेगा
    • MacBook Pro में 18GB M3 Pro configuration भी है। यह काफी असामान्य है

  • ये models LLM inference के लिए कम उपयोगी लगते हैं, जो memory bandwidth से काफी constrained होता है। MacBook Pro page देखें तो M3 में 100GB/s, 150GB/s, 300GB/s हैं, जबकि M2 में 200GB/s और 400GB/s थे
    M3 में भी high GPU configuration पर जाएं तो 400GB/s संभव है, लेकिन कुल मिलाकर कमी आना interesting है

    • announcement में dynamic GPU caching का ज़िक्र था, और यह Transformer models को पसंद आने वाला feature लगता है

  • समझ नहीं आता कि हर बार नया chip आने पर पूरी lineup को refresh क्यों नहीं किया जाता। खासकर इस बार तो MacBook Pro और iMac में असल में सिर्फ chip बदलने जैसा लग रहा है, इसलिए और भी ज्यादा।
    अलग से, machine learning performance के लिहाज से unified memory की VRAM से तुलना कैसी है, यह कोई जानता है क्या? 80GB H100 करीब 30 हजार डॉलर का है, यह सोचें तो 128GB unified memory वाला full-option MacBook Pro 5 हजार डॉलर में मिलना दिलचस्प है। व्यावहारिक रूप से ज्यादातर prosumer reasonable budget में 24GB Nvidia card तक सीमित रहते हैं, तो बड़े models के लिए यह थोड़ा भी comparable या आकर्षक है या नहीं, यह जानना चाहूँगा

    • लगता है कई factors साथ में काम कर रहे हैं। पहला, lineup upgrade करने में असली engineering work लगता है, इसलिए कम से कम 1 साल लग सकता है।
      दूसरा, manufacturing capacity भी है। इस साल की पहली छमाही में 3nm iPhone processor बनाते हुए उन्होंने MBP processor पर research की होगी, इसकी संभावना ज्यादा है, और कई chips का production एक साथ ramp up करना मुश्किल होगा।
      तीसरा, demand side भी है। अगर मेरे माता-पिता इस साल नया laptop और नया phone खरीदें, तो 6 महीने के gap से खरीदने की संभावना ज्यादा लगती है। इसी तरह इस quarter में a,b,c products announce करना और अगले quarter में d,e,f announce करने की rhythm बनाए रखने से Apple अच्छी खबरों के साथ news में लगातार बने रहने में मदद मिलती है।
      machine learning की तरफ, actual device हाथ में आते ही results जल्दी आने की उम्मीद है
    • अनुमान है, existing inventory खत्म करने के लिए पुराने chips को अलग-अलग SKU से समय के साथ चरणबद्ध तरीके से हटाने का तरीका होगा। उदाहरण के लिए जब M3 production volume कम हो, तो महंगे MacBook Pro models से शुरुआत करते हैं। ऐसे products धीरे-धीरे बिकेंगे, और इस बीच Air line में बची हुई M2 inventory खत्म की जाएगी, फिर M3 production और बढ़ने के बाद “refresh” किया जाएगा।
      Apple की MacBook sales या Air, Pro से ज्यादा बिकता है या नहीं, यह नहीं जानता, लेकिन वे इसे इतनी consistency से करते हैं तो इस तरीके से निश्चित तौर पर profit कमा रहे होंगे
    • मौजूदा M1/M2 production capacity को खत्म करने की बात भी होगी, लेकिन अभी M3 inventory पर्याप्त नहीं लगती।
      TSMC के पास 3nm capability वाली कितनी fabs हैं, यह भूल गया, लेकिन ज्यादा नहीं होंगी। कहा जाता है कि Apple ने TSMC की सारी production capacity secure कर ली है[0], फिर भी शायद काफी नहीं होगा।
      [0]: Apple is saving “billions” on chips thanks to unique deal with TSMC | https://news.ycombinator.com/item?id=37040722
    • MacBook Air, Mac Studio, Mac Pro को सिर्फ करीब 6 महीने पहले refresh किया गया था। अगर अभी तुरंत फिर refresh कर दें तो पहले खरीदने वालों को लगेगा कि उनके साथ पूरी तरह धोखा हुआ
    • M2 Ultra की unified memory bandwidth अधिकतम 800GB/s है। वहीं 4090 की 1,008GB/s है, और PC side पर dual-channel DDR4-6400 102GB/s bandwidth देता है

  • presentation में इस तरह काफी अचानक जोर दिया गया कि “128GB तक memory support के साथ, अरबों parameters वाले बड़े Transformer models संभालने वाले AI developers जैसे users के लिए वे workflows संभव हो जाते हैं जो पहले laptop पर असंभव थे,” लेकिन actual AI development कैसे चलता है, यह नहीं दिखाया।
    मुझे पता है कि Apple ने PyTorch के Apple Silicon support पर ज्यादा मेहनत की है, लेकिन अब यह पर्याप्त स्तर तक पहुँचा है या नहीं, यह जानना चाहूँगा

    • अभी शायद नहीं। गलत साबित होऊँ तो अच्छा होगा, लेकिन सस्ते mobile Nvidia cards भी छोटी training jobs में सामान्य M2 chip से आगे हैं।
      M3 Max competitor बन सकता है, लेकिन लगता है Metal अभी CUDA से काफी दूर है। Laptop के लिए M3 Max, Nvidia 3070 से compete कर सकता है। हालांकि Nvidia desktop में heat और power consumption वाला monster है और Apple M chips बहुत efficient हैं, इसलिए यह fair comparison नहीं है। देखना होगा desktop M3 chips कैसे आते हैं
    • जहाँ तक मुझे पता है, PyTorch native support करता है। मेरे अनुभव में यह ROCm से भी बेहतर चला
    • क्या आजकल trend में रहने वाले लोग GGML इस्तेमाल कर रहे हैं?

  • यह बात काफी impressive है कि यह event iPhone 15 Pro से shoot किया गया था[1]। बेशक, इसमें professional lighting और कई तरह के equipment लगे थे, जो आम users के environment से अलग है।
    अब Log shooting possible हो गई है, तो अगला iPhone announcement शायद उसी iPhone से shoot किया जा सके जो reveal हो रहा होगा।
    [1] Source: https://www.youtube.com/live/ctkW3V0Mh-k?t=30m02s