2 पॉइंट द्वारा GN⁺ 2024-01-01 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • Intel i5-12400, ASUS Prime H770-Plus D4, 64GB DDR4, Ubuntu Server 23.04, Corsair RM750 के संयोजन ने स्टोरेज डिवाइस जोड़ने से पहले wall power meter के अनुसार 7W idle power हासिल की
  • कम power का मुख्य कारण BIOS में C-State, ASPM L1, RC6, ALPM को सक्षम करना और PowerTOP auto-tune के जरिए CPU package को C8/C10 power-saving state में जाने देना था
  • 12 HDD और कई NVMe जोड़ने पर power 24~25W तक बढ़ गई, और JMicron JMB585 द्वारा ASPM ब्लॉक होने से सिस्टम C3 पर अटकने की समस्या ASM1166 SATA controller से बदलने पर कम हुई
  • CPU-direct PCIe/M.2 slots, NVMe·SATA SSD models, Realtek NIC, USB devices, SATA controller firmware — ये सब C-State बदल सकते हैं, इसलिए हर component combination पर A/B testing ज़रूरी है
  • 11 HDD और NVMe/SATA controllers सहित अंतिम configuration भी HDD spin-down, screen·keyboard power saving लागू करने पर 15~16W तक नीचे आ गया, और लंबे समय में SSD में बदलाव करने पर 10~11W idle power की उम्मीद है

7W idle power build की बेसलाइन configuration

  • लक्ष्य था कम idle power, compression के लिए पर्याप्त CPU performance, 12 HDD और कम से कम 1 NVMe संभालना, भविष्य में 6 NVMe और 6 SATA SSD तक बदल सकने वाली scalability, और लागत पर नियंत्रण
  • 7W measurement स्टोरेज डिवाइस बड़े पैमाने पर जोड़ने से पहले wall power meter के आधार पर था
    • Intel H770 motherboard
    • Intel i5-12400 CPU
    • 64GB DDR4 RAM
    • Ubuntu Server 23.04 boot SSD
    • Corsair PSU
  • BIOS में C-State सेट करके C8 तक पहुँचाया गया और powertop --auto-tune लागू किया गया
  • PowerTOP auto-tune ने USB port power saving के कारण USB keyboard को disable कर दिया; keyboard को चालू रखने पर wall power 8W थी
  • display output चालू होने पर यह 9~10W थी, और consoleblank=600 से 600 सेकंड बाद screen बंद होने पर यह 7W तक गिर गई

पुराने low-power builds और इस बार का लक्ष्य

  • पिछले low-power build रिकॉर्ड इस लक्ष्य के लिए reference point बने
  • wall power के हिसाब से 10W के आसपास का नया सिस्टम बनाना component selection और tuning के बाद वास्तविक नतीजे देखने वाली लगभग जुए जैसी प्रक्रिया है

Motherboard चयन: ASUS Prime H770-Plus D4

  • अंतिम चयन ASUS Prime H770-Plus D4 था
  • उस समय सामान्य consumer options Intel 600/700 series और AMD 500/600 series motherboards थे
  • भविष्य में 6 NVMe drive उपयोग की संभावना महत्वपूर्ण थी, लेकिन ऐसा लगा कि कोई consumer motherboard 6 M.2 slots को एक साथ PCIe mode में नहीं चला सकता
    • AMD MEG X570S Unify-X Max में 6 M.2 जैसा दिखता है, लेकिन manual के अनुसार सभी 6 भरने पर आखिरी slot SATA variant होना चाहिए
    • ASRock Z790 PG Sonic में भी 6 slots हैं, लेकिन Gen5 NVMe slot की exclusivity conditions के कारण केवल 5 उपयोग किए जा सकते हैं
  • consumer boards में सभी M.2 को Gen4 x4 पर चलाने की कोशिश करने पर chipset lane limitations हैं
    • AMD X570, Intel B760: अधिकतम 3
    • AMD B650, Intel H670/Q670/Z690/W680: 4
    • AMD X670, Intel H770: 5
    • Intel Z790: 6
  • 6 NVMe के लक्ष्य के कारण PCIe-to-M.2 adapter की ज़रूरत थी, और motherboard चुनने का आधार built-in M.2 slots और x4 या उससे बड़े PCIe slots की कुल संख्या बनी
  • Intel platform चुनने के कारण थे chipset power, chipset-CPU link speed, उपलब्ध parts, और AM5 power consumption को लेकर चिंता
    • Intel 600/700 series chipset TDP सभी में 6W है
    • AMD X670 chipset को 7W+7W माना गया
    • Intel H670/Q670/W680/Z690/H770/Z790 CPU से DMI 4.0 x8 के जरिए जुड़ते हैं, जबकि AMD X570/B650/X670 PCIe 4.0 x4 से जुड़ते हैं, इसलिए सैद्धांतिक throughput लगभग 16GB/s बनाम 8GB/s है
    • उपलब्ध 64GB DDR4 और Intel 12th Gen CPU को दोबारा इस्तेमाल किया जा सकता था
    • AMD 600 series chipsets केवल DDR5 के लिए हैं

CPU, memory, boot drive, PSU

  • CPU के रूप में उपलब्ध Intel i5-12400 H0 stepping Alder Lake का उपयोग किया गया
    • पिछले desktop build में इसे AV1 hardware decode, E-core silicon overhead से बचने, और 12th Gen lineup में performance के कारण चुना गया था
    • पिछले desktop build में GPU और display से जुड़ी कई समस्याएँ थीं, लेकिन इस server-oriented build में वे मुख्य कारक नहीं थे
  • memory के रूप में 64GB DDR4-3200 उपयोग की गई
    • 2x16GB Kingston HyperX dual-rank Hynix DJR
    • 2x16GB Kingston HyperX single-rank Hynix CJR
    • 4 modules को 16-18-18-36 पर चलाया गया और RAM voltage 1.25V सेट किया गया
    • TestMem5 और Memtest86 में 1.22V भी stable था, लेकिन stability margin के लिए 1.25V इस्तेमाल किया गया
  • test boot drive Sandisk Ultra 3D 1TB SATA SSD थी
    • PCIe और NVMe A/B testing बहुत होने के कारण PCIe slots खाली रखने के लिए Ubuntu 23.04 को SATA SSD पर install किया गया
    • testing के बाद मुख्य OS को Samsung SSD 970 EVO Plus 500GB NVMe पर चलाने की योजना थी
  • PSU के रूप में Corsair RM750 उपयोग किया गया
    • 10W के आसपास idle system के लिए 750W बहुत ज़्यादा लग सकता है, लेकिन 12 drives के motors एक साथ spin-up होने पर instantaneous load ऊँचा हो सकता है
    • Seagate 10TB 3.5-inch drive की 12V rail peak current को DC/AC आधार पर 2A/3A बताता है
    • गणना के अनुसार अगर 6 drives एक साथ 150~200W खींचें और CPU peak 120W ले, तो 10W idle से अचानक लगभग 400W तक jump हो सकता है
    • instantaneous power shortage voltage drop, crash, reboot, और write के दौरान data corruption तक ले जा सकती है

BIOS और OS power settings

  • शुरुआती power measurement की शर्तें Ubuntu Server 23.04, Intel PowerTOP auto-tune, और wall measurement थीं
  • BIOS में लागू प्रमुख settings इस प्रकार थीं
    • CPU C-state को C10 तक enable करना
    • ASPM enable करना और सबको L1 पर set करना
    • RC6(Render Standby) enable करना
    • Aggressive LPM Support(ALPM) enable करना
    • HD Audio, Connectivity Mode, LEDs, GNA Device, Serial Port disable करना
  • low-power लक्ष्य में motherboard support और BIOS configuration बहुत महत्वपूर्ण हैं
    • ASUS H770 board पर low-power consumption के लिए Native ASPM और उचित L1 state सक्षम करना ज़रूरी है
    • यह BIOS control के बजाय OS control की अनुमति देने के लिए है

Storage जोड़ने के बाद सामने आया bottleneck

  • 12 HDD जोड़कर उन्हें spun-down अवस्था में रखने पर standby power 7W से बढ़कर 24~25W हो गई
    • शुरुआत में 2.5-inch HDD 6 और 3.5-inch HDD 6 उपयोग किए गए
    • motherboard पर केवल 4 SATA ports होने के कारण SATA controller और port multiplier का उपयोग हुआ
    • शुरुआती चरण में 4 NVMe भी उपयोग किए गए, और Western Digital SN770 idle पर भी गर्म रहता था, इसलिए लगा कि वह low-power mode में नहीं जा रहा
  • HDD हटाकर components को एक-एक करके test करने पर JMicron JMB585 SATA controller power increase का मुख्य कारण लगा
    • JMB585 के बिना CPU package C6 तक पहुँचता था
    • JMB585 दोबारा जोड़ने पर अधिकतम C3 तक ही पहुँचता था
    • अगर PCIe device ASPM L1 में नहीं जाता, तो CPU गहरे power state में नहीं जा पाता
    • JMB585 controller card ASPM support नहीं करता दिखा

CPU-direct PCIe lanes का प्रभाव

  • यह सिस्टम तभी C8 तक पहुँचता था जब CPU-direct PCIe lanes पर कुछ भी connected न हो
  • ऊपर वाले PCIe slot या ऊपर वाले NVMe slot में कुछ भी लगाने पर C6 सीमा बन जाती थी
  • C6 और C8 के बीच power difference एक साधारण test में 1W से कम लगा
  • C8 होना अच्छा है, लेकिन C6 तक पहुँचना आवश्यक माना गया
  • C3 को बहुत अधिक power-consuming माना गया
  • इस खास motherboard पर, अगर कम latency या CPU-direct full bandwidth की सख्त ज़रूरत न हो, तो CPU-direct lanes से बचना बेहतर है

ASM1166 SATA controller बनाम JMB585

  • SATA HBA खोजते समय यह निष्कर्ष निकला कि ASM1166 SATA controller ASPM L1 support कर सकता है, लेकिन सही उपयोग के लिए firmware flash करना पड़ता है
  • ASM1166 card आने के बाद सबसे पहले firmware flash किया गया
  • drives disconnected होने पर power measurements
    • SATA controller नहीं: 8W, C8
    • ASM1166 chipset-direct x4 slot में: 9W, C8
    • JMB585 CPU-direct x16 slot में: 12W, C3
    • JMB585 chipset-direct x4 slot में: 15W, C3
    • ASM1166 CPU-direct x16 slot में: 22W, C2
  • drives connected होने पर ASM1166 power के मामले में JMB585 से स्पष्ट रूप से बेहतर था
    • ASM1166 chipset-direct x4 slot में: 10W, C8
    • 2 ASM1166 chipset-direct x4 slots में और केवल 1 NVMe उपयोग: 11W, C8
    • JMB585 chipset-direct x4 slot में: 16W, C3
    • JMB585 CPU-direct x16 slot में: 24W, C2
  • chipset-direct slot पर 4 drives जोड़ने पर ASM1166 ने system power में +2W बढ़ाए, जबकि JMB585 ने +8W बढ़ाए

NVMe और SATA drives भी C-State बदलते हैं

  • WD Black SN770 Gen4 NVMe को CPU-direct top PCIe/NVMe port पर उपयोग करने पर AER Bus Error और BadTLP समस्याएँ आईं
    • BIOS में “PEG – ASPM” को Disabled या L0s पर रखने से error नहीं आया
    • लेकिन power saving के लिए L1 महत्वपूर्ण था, इसलिए यह अच्छा विकल्प नहीं था
    • Link Speed को Gen3 करने पर errors बहुत कम हुए, लेकिन पूरी तरह खत्म नहीं हुए
    • WD drive को Crucial P3 से बदलते ही errors गायब हो गए
  • Crucial P3 NVMe 2 को CPU-direct PCIe x16 slot और top M.2 slot में लगाने पर controller idle temperature ऊँचा था
    • NAND लगभग 27~29°C था, लेकिन controller 49~50°C reported था
    • दोनों NVMe को chipset-direct PCIe slots में ले जाने पर L1.1/L1.2 activate हुए और controller temperature भी 38~41°C तक गिर गया
    • update के अनुसार अंतिम build में Crucial P3 controller temperature 31~34°C और NAND temperature 23~24°C था
  • SATA SSD brand और model भी C-State के परिणाम बदल सकते हैं
    • 1TB Patriot P210 SATA SSD सिस्टम को C6 पर अटका देता था
    • C10 की अनुमति देने वाले drives में Samsung 850 EVO SATA SSD, Seagate SATA HDD, Toshiba SATA HDD, Sandisk Ultra 3D SATA SSD, Crucial MX500 शामिल थे
    • SATA SSD चुनते समय brand और model पर ध्यान देना चाहिए, और खरीद के बाद return period के भीतर performance metrics verify करना बेहतर है

वर्तमान storage configuration और power

  • वर्तमान configuration में storage काफी बढ़ चुका है
    • 1x Samsung 970 EVO Plus NVMe 500GB boot drive
    • 2x Crucial P3 NVMe 4TB
    • 5x Seagate 2.5-inch HDD 5TB, प्रत्येक में 4TB उपयोग
    • 6x Seagate 3.5-inch HDD 10TB, प्रत्येक में 8TB उपयोग
    • 2x ASM1166 SATA cards
  • display on और keyboard active होने पर step-by-step wall power इस प्रकार है
    • 11 HDD सभी active-idle: 50W
    • 6 3.5-inch HDD Idle B: 38W
    • 6 3.5-inch HDD Idle C: 34W
    • 6 3.5-inch HDD Standby_Z में spin down: 21W
    • 5 2.5-inch HDD भी Standby: 18W
    • display output off: 16W
    • PowerTOP को USB keyboard disable करने की अनुमति: 15W
  • Seagate के अनुसार standby power 3.5-inch drives के लिए लगभग 0.8W/drive और 2.5-inch drives के लिए लगभग 0.18W/drive है, जो वास्तविक अवलोकन से मेल खाती दिखी
  • 3.5-inch drives बाकी system components की तुलना में power consumption के लिहाज़ से भारी हैं

HDD से SSD की लंबी अवधि की ओर बदलाव

  • HDD standby state में idle consumption कम होने के कारण SSD में तुरंत बदलना ज़रूरी नहीं माना गया
  • HDD और spare drives खराब होने या SSD prices गिरने पर धीरे-धीरे migration किया जाएगा
  • अंतिम लक्ष्य all-SSD build है
    • मूल योजना थी 1 boot drive, RAIDZ2 के लिए 6x NVMe, और दूसरे RAIDZ2 के लिए 6x SATA SSD
    • NVMe के लिए संभवतः Crucial P3 4TB, और SATA SSD के लिए संभवतः Samsung 870 QVO 8TB पर विचार है
  • CPU-direct M.2/PCIe slots का उपयोग unpredictability और थोड़ी C-State/power/temperature cost लाता है, इसलिए कुछ NVMe छोड़कर अधिक SATA उपयोग करके CPU-direct lanes से बचने की दिशा में योजना बदल सकती है
  • सभी HDD को SSD से बदलने पर 72TB drives, 64GB RAM और काफी अच्छे processor के साथ idle power लगभग 10~11W होने की उम्मीद है

ZFS cache और Special vdev का उपयोग

  • सभी HDD को SSD से बदलने में समय लग सकता है, इसलिए तब तक ZFS की fast storage utilization features का उपयोग किया जा रहा है
  • ZFS धीमे storage के आगे SSD जैसे तेज storage रखने के लिए Special Allocation Class और L2ARC cache drive options देता है
  • Special Allocation Class metadata और चुने गए आकार के छोटे blocks के लिए dedicated vdev बना सकता है
    • file listing और directory navigation तेज हो जाती है
    • files को HDD पर रखते हुए भी कई directories में ls चलाने पर HDD को जगाने की ज़रूरत नहीं पड़ सकती
    • लेकिन सभी metadata special vdev पर होती है, इसलिए अगर vdev मर जाए तो लगभग सारा data access असंभव हो जाता है
    • कम से कम mirror configuration ज़रूरी है, और 3-way mirror पर भी विचार किया जा सकता है
  • L2ARC, ZFS की second-level cache है
    • RAM cache भरने पर ZFS कुछ blocks को L2ARC में copy करके RAM से हटा देता है
    • अगली access पर वह data disk के बजाय L2ARC से पढ़ा जाता है
    • L2ARC के लिए एक SSD भी पर्याप्त है, और checksum error या drive failure होने पर ZFS मूल disk से दोबारा पढ़ लेता है
  • इस configuration में 4TB NVMe को L2ARC के रूप में इस्तेमाल किया जा रहा है
    • जब बाकी 2.5-inch drives भी SSD से बदल जाएँगी और SSD cache का speed advantage खत्म हो जाएगा, तब इस cache device को हटाया जा सकता है

व्यावहारिक निष्कर्ष

  • कम idle power चाहिए तो motherboard BIOS में C-State, ASPM, ALPM settings पर्याप्त रूप से उपलब्ध होनी चाहिए
  • सभी devices को ASPM L1 support करना चाहिए ताकि परिणाम स्थिर रहें
    • सबसे कठिन हिस्सा ASPM L1 support करने वाला SATA controller ढूँढना था
    • अगर संभव हो, तो ऐसे motherboard का उपयोग बेहतर है जिसमें Intel chipset-direct SATA ports पर्याप्त हों ताकि अलग card की ज़रूरत न पड़े
    • NVMe के बारे में भी जाँचना चाहिए कि ASPM के तहत low-power APST states सही से काम करते हों
  • अगर C8 लक्ष्य है, तो CPU-direct PCIe lanes से बचना बेहतर है
    • CPU-direct lanes में top PCIe और M.2 slots आते हैं
    • अपवाद वे स्थितियाँ हैं जहाँ कम latency और CPU-direct full bandwidth की ज़रूरत हो, या device लगातार active रहे और power state में न जाए
  • Kill-A-Watt जैसे wall power meter वास्तविक स्थिति समझने के लिए अनिवार्य हैं
    • केवल software metrics से PSU efficiency, drive standby power, USB devices का प्रभाव, और display output का असर समझना मुश्किल है
  • Realtek NIC से जुड़ी update के अनुसार हाल के Linux kernel अधिकांश Realtek NIC में L1 power-saving mode को disable कर देते हैं, जिससे CPU उचित C-State में नहीं जा पाता और power consumption बढ़ सकती है
    • workaround मौजूद हैं, लेकिन भविष्य में संभव है कि Intel 1 Gigabit network adapter वाले motherboards तक चयन सीमित किया जाए
    • comments में उल्लेखित script यहाँ देखी जा सकती है: RTL8125-ASPM.sh.txt

1 टिप्पणियां

 
GN⁺ 2024-01-01
Hacker News की राय
  • 30W से कम वाली configurations को इकट्ठा करने वाला एक German forum thread और Google Docs document है, इसलिए home server/NAS बनाने वालों के लिए यह काफ़ी उपयोगी लगता है https://goo.gl/z8nt3A
    निजी तौर पर price-to-performance के लिहाज से सबसे अच्छी configuration Fujitsu D3417-B2, Intel Xeon 1225 V5, 64GB ECC RAM, WD SN850x 2TB, Fractal Design Define Mini C, Pico PSU 120W + 120W Leicke power supply, Intel AMT + MeshCommander remote management थी
    इसे second-hand में बहुत सस्ते में खरीदकर Proxmox चला रहा हूँ, और HDD के बिना idle power 9.3W है। इसमें 6 SATA ports और PCIe port हैं, इसलिए storage जोड़ना या dedicated GPU passthrough भी संभव है
    कुल €380 दिए, लेकिन इसे ढूँढना मुश्किल हो सकता है। media encoding के लिए यह ख़ास नहीं है, इसलिए Core i3 8100 या उससे ऊपर बेहतर है, और alternative boards के तौर पर GIGABYTE C246N-WU2, Gigabyte C246-WU4, Fujitsu D3517-B, Fujitsu D3644 और Corsair RM550x 2021 version पर भी विचार किया जा सकता है
    Dell T30 या Fujitsu Celsius W550 जैसे सस्ते used workstations भी server के रूप में ठीक हैं। Fujitsu वाली तरफ़ D3417(-A) board है, इसलिए यह 24-pin ATX नहीं बल्कि proprietary 16-pin power supply इस्तेमाल करता है, और AliExpress का 24-pin-to-16-pin adapter थोड़ा जोखिम भरा है, इसलिए अभी verify किया जा रहा है
    Ryzen वाले विकल्प कम हैं, लेकिन AMD Ryzen 5 PRO 4650G और Asus PRIME B550M-A board combination के idle में लगभग 16W होने की report है

    • Fujitsu 16-pin adapter अच्छी तरह काम करता है। pin layout भी पहले से अच्छी तरह ज्ञात है https://web.archive.org/web/20200923042644/https://sector.bi..., और 5VSB को 11V तक boost कर दें तो सामान्य ATX power supply को भी इसके साथ इस्तेमाल किया जा सकता है
      Fujitsu boards शानदार हैं और EU में बहुत सस्ते मिलते हैं। remote management feature iRMC S4/S5 के KVM license को reverse-engineer करने का मामला भी है https://watchmysys.com/blog/2023/01/fujitsu-irmc-s4-license/
    • यह configuration अच्छी लगती है, लेकिन अगर आप कई पुराने spinning HDD चलाने का सोच रहे हैं तो Pico PSU को लेकर सावधान रहना चाहिए
      HDD spin-up के समय बड़ा power peak लेते हैं, और RAID में कई drives हों तो वे एक साथ spin up होकर allowed power range से ऊपर जा सकते हैं
    • 2023 model AMD PRO CPU और b550m combination के साथ idle में 9W देख रहा हूँ
      AMD PRO CPU ECC support करता है, इसलिए वास्तविक computer हो तो मैं इसे जरूरी मानता हूँ। board के अधिकतर components बंद रखे हैं, और यह consumer-grade lowest quality के क़रीब है
      जब ज़रूरत पड़ने पर ज़्यादा power खपानी पड़े, तब integrated GPU काफ़ी अच्छा है, यह बात अच्छी लगती है
  • hardware शानदार है, लेकिन अगर software management ही काम बन जाए तो ऐसे DIY configurations को justify करना मुश्किल हो जाता है
    मेरा Synology NAS 8GB RAM और J4150 processor के साथ करीब 15 containers, Wireguard, और Synology OS DSM चलाता है, और आम तौर पर idle 1–3% के स्तर पर रहता है
    आखिरकार फर्क software से पड़ता है, और DSM इसका सबसे बड़ा फायदा और सबसे बड़ा surprise था। TrueNAS को भी second backup server के रूप में इस्तेमाल करता हूँ, लेकिन DSM से उसकी तुलना नहीं हो सकती
    कभी-कभी दूसरे server से एक file backup करने के basic CRON setup के लिए logs खंगालना और trial-and-error करना नहीं चाहता; ऐसे अनगिनत मौके हैं जहाँ DSM बस काम कर गया
    मुझे लगता है Synology, NAS दुनिया के Microsoft की तरह, DSM को non-Synology platforms पर भी चलने देने, या कम-से-कम self-install को आसान बनाने का मौका गंवा रहा है। DSM एक बेहतरीन OS है, इसलिए वह खुद बिक सकता है, और Active Backup for Business जैसे products की upsell तक भी ले जा सकता है

    • https://xpenology.org/
      Xpenology, Synology के DSM के लिए bootloader है, और DSM वह proprietary Linux-based operating system है जो Synology NAS devices में इस्तेमाल होता है
      Xpenology का उपयोग करने पर सामान्य PC या खुद बनाए NAS जैसे x86 devices पर Synology DSM चलाया जा सकता है, जिससे Synology hardware खरीदे बिना भी DSM के multimedia और cloud features इस्तेमाल किए जा सकते हैं
      अधिक powerful processor और RAM खुद चुन सकते हैं, इसलिए video transcoding जैसे tasks के लिए भी कई लोग इसे पसंद करते हैं
    • किसी खास hardware bundle पर focus करके उसे अच्छी तरह काम करवाना शायद DSM quality का हिस्सा है
      hardware combinations में choices थोड़ी भी बढ़ें तो combinatorial explosion हो जाता है, जिससे सब कुछ test करना असंभव हो जाता है
    • UI और UX वाकई अच्छे हैं। 2010 के आसपास जब पहली बार इस्तेमाल किया था, तब भी इसे मज़े से इस्तेमाल किया जा सकता था
      cloud IaaS के front end के रूप में Synology DSM frontend हो तो काफ़ी अच्छा रहेगा
    • Synology द्वारा सीधे handle कर देने की वजह से मेरे हिस्से आने वाले Linux chores खत्म हो जाते हैं, इसके लिए मैं सच में आभारी हूँ। Synology NAS खरीदने की कीमत पूरी तरह वाजिब लगती है
      DS1520+ में पाँच 16TB Seagate Iron Wolf Pro HDDs को RAID6 में configure किया है, और वही HDD एक cold spare के रूप में रखी है; 2 साल से यह पूरी तरह बिना समस्या चल रहा है
      इसके उलट मेरा Linux install history ऐसी है कि सांस लेने भर से भी उसे तोड़ दूँ; मैं चलता-फिरता Linux mass-murder horror जैसा हूँ
    • Synology की सबसे बड़ी समस्या यह है कि kernel version लगातार बहुत पुराना रहता है
      इस साल भी वे 4.4 के साथ बेच रहे थे, और सिर्फ़ इस साल आए नए products को 5.10 मिला। DSM versions के बीच kernel version upgrade भी नहीं मिलता
  • लेखक ने 2016 से 2023 तक लगभग हर दो साल में 5 सिस्टम बनाए, ऐसा लगता है
    RAM जैसे कुछ पार्ट्स कई builds में फिर से इस्तेमाल किए गए
    जिज्ञासा यह है कि hardware लागत और पूरे जीवनकाल की बिजली लागत अलग-अलग कितनी रही। 4 साल चलने वाली ज्यादा बिजली खाने वाली मशीन, 2 साल चलने वाली low-power मशीन से बेहतर भी हो सकती है
    मौजूदा pcpartpicker के हिसाब से motherboard+CPU 322 डॉलर का है, और 0.25 डॉलर प्रति kWh मानकर 36W को 4 साल लगातार चलाने की लागत भी लगभग 315 डॉलर होती है
    इसलिए 43W वाला 4 साल का सिस्टम, 7W वाले 2 साल के सिस्टम से खरीद और संचालन मिलाकर सस्ता भी पड़ सकता है

    • इस तरह की मजेदार छेड़छाड़ पैसे बचाने के लिए नहीं, बल्कि मंज़िल नहीं बल्कि प्रक्रिया का आनंद लेने के लिए होती है
    • मेरे मामले में, मैं औसतन हर 8 साल में एक पूरी तरह भरा हुआ NAS खरीदता हूं
      storage को लगभग बढ़ाता नहीं हूं। उस समय तक network और software पुराने पड़ जाते हैं, इसलिए नया खरीदता हूं; पुराने को नई मशीन के backup के रूप में लगाता हूं, और उससे भी पुराने backup उपकरण को retire कर देता हूं
      दिलचस्प बात यह है कि यह upgrade cycle 20 साल से बनी हुई है, इसलिए depreciation समझना आसान है। कुल मिलाकर 16 साल इस्तेमाल होता है, लेकिन असल में 8 साल मुख्य उपकरण और 8 साल backup उपकरण के रूप में इस्तेमाल करने की संरचना है
  • 7950X3D, X670E Taichi, 96GB 6400MHz CL32, 2x4TB Lexar, 4x18TB Seagate Exos X18, RX570 8G, Proxmox configuration है
    बिना VM के idle करीब 60~70W है, TrueNAS VM और disks spinning के साथ idle 90~100W है, और TrueNAS व GPU passthrough Fedora Desktop idle करीब 150W है
    कुछ हफ्तों बाद RX570 को 7900 XTX से बदलने की योजना है। RAM काफी power जोड़ती है, और DDR5 में frequency के हिसाब से 8GB पर 3~5W भी आम है
    मैंने सोचा था Proxmox+TrueNAS करीब 50~100W होगा, लेकिन 96GB RAM की power खपत को ध्यान में नहीं रखा था

    • idle 50W तक घटाया जा सकता है, लेकिन इसके लिए बहुत खास hardware choices चाहिए, जिनमें वे चीजें भी शामिल हैं जो अभी Zen4 में नहीं हैं, और investment के मुकाबले फायदा हासिल करना मुश्किल है
      मेरा configuration AMD Ryzen 7 PRO 5750GE, 128GB ECC DDR4-3200, Intel XL710-QDA2, LSI 9500-16i, 8 WD 16TB HDD, 2 SK Hynix P41 Platinum M.2 NVMe SSD, 2 Samsung PM9A3 U.2 NVMe SSD, और 2 Samsung PM893 SATA SSD है
      इसमें BMC है, और dual 40GbE के साथ कुछ स्थितियों में network पर लगभग 55GbE sustained मिल सकता है, जबकि ज्यादातर 30~35GbE रहता है। TrueNAS SCALE को video editing के लिए pure storage device के रूप में चलाता हूं, और 1L SFF के 5750GE व 10GbE वाला Proxmox cluster मुख्य रूप से Apache Spark चलाता है; Pi4B 8GB k3s cluster भी है
      storage tiering है, इसलिए disks को शायद ही छुआ जाता है और वे ज्यादातर सोई रहती हैं। मुख्यतः U.2 से data आता-जाता है, और बाद में अपने-आप move होता रहता है। SATA SSD metadata के लिए हैं, और boot SuperMicro SuperDOM से होता है
      Zen 3 Ryzen PRO 5750GE unicorn जैसा product है, लेकिन power बहुत कम खाता है। idle power बहुत कम है, integrated GPU और ECC support है, EPYC जैसी memory protection features हैं, और 5800X की performance का करीब 92% देता है, फिर भी 8-core 16-thread full load पर package power 39W से ठीक नीचे limit रहती है
      LSI 9500-16i ने जरूरी lanes, यानी 8 PCIe और 16 SlimSAS दिए, जिससे दो enterprise U.2 और 8 HDD संभाले गए, और नया adapter होने के कारण idle power भी कम थी
      Intel dual QSFP+ NIC को जानबूझकर चुना था, क्योंकि copper passive DAC इस्तेमाल करने पर NIC और switch के बीच प्रति port 4~5W बचाए जा सकते हैं। इस transfer speed पर optical की तुलना में latency भी कम होती है, यह भी मायने रखता है
      power hog ASRock X570D4U है। सिर्फ BMC 3.2W खाता है और X570 खुद भी कुछ power लेता है। फिर भी पूरे system का idle 50W है, ज्यादातर load में 75~80W रहता है, और सब कुछ maximum load पर होने पर सैद्धांतिक रूप से 180~190W तक जा सकता है
    • NAS जैसे use के लिए मैं सच में Ryzen Embedded या Epyc 3000 series जैसे products इस्तेमाल करना चाहता हूं जिनके package में dual 10GbE होता है, लेकिन दोनों बहुत महंगे हैं या मिलना असंभव है
    • 8GB RAM पर 3~5W वाली बात गलत लगती है। उस calculation से एक DIMM 4*6=25W हो जाएगा
      मैं भी 48GB DDR5 DIMM इस्तेमाल करता हूं, और HwInfo में प्रति module maximum 6W दिखता है
    • networking कैसे की, यह जानना चाहूंगा। क्या 1Gbit से ऊपर गए?
  • 44 spinning HDD वाले NAS 847E16-RJBOD, 48-port POE+ 10GbE switch, 2 uninterruptible power supplies, environment monitoring, और DECISO OPNsense router मिलाकर औसतन 1264W खा रहे हैं, इसलिए खुद को petrochemical refinery जैसा महसूस हो रहा है
    एक UPS power factor के आधार पर 98% efficiency दिखाता है, लेकिन दूसरा 91% है, इसलिए उतना अच्छा नहीं
    APM सभी HDD पर बंद कर रखा है। इस configuration में संभव नहीं होने वाली मिथकीय power saving के कारण सिर्फ delay और wear ही पैदा होंगे
    SMART failures की भविष्यवाणी लगभग नहीं कर पाता, लेकिन drive failure के मजबूत संकेतों में से एक थोड़ा बढ़ा हुआ temperature है, जो आम तौर पर bearing wear का नतीजा होता है
    waste heat इतनी निकलती है कि एक कमरे को heating की जरूरत नहीं पड़ती, और data center के ambient temperature को 27°C से नीचे लाने की कोई वजह भी नहीं, इसलिए cooling अनिवार्य नहीं है

    • हाल ही में heat pump water heater के बारे में देखा, तो उनमें से कई कमरे की heat सोखकर काम करते थे
      पानी और computers को मिलना नहीं चाहिए, लेकिन उस waste heat का उपयोग करने का यह बेहतर तरीका हो सकता है
  • कम पावर अच्छा है, लेकिन ECC के बिना बड़ा RAID लंबे समय तक चलाना बेचैन करता है। जानना चाहता हूँ कि क्या इसी तरह का सिस्टम होते हुए भी 5+ साल के लिए और ज्यादा मजबूत कोई अच्छा समाधान है

    • मेरी नजर में तरीका यह है कि एक-दो पीढ़ी पुराना Supermicro motherboard किसी ATX case में लगाया जाए, और कम-पावर Xeon या Pentium/Celeron इस्तेमाल किया जाए
      X11SAE-F या X12SCA-F, शायद उससे भी पुराना काफी होगा। पावर बहुत कम न भी हो सकती है
      मैं अब भी X9SCA+-F और बहुत पुराने Xeon से NAS और LXC containers चला रहा हूँ। idle power 5W नहीं, करीब 20–30W है, लेकिन कभी समस्या नहीं आई, और मुझे पूरा यकीन है कि इसने अपनी कीमत कई बार वसूल कर दी है
    • बजट सीमित हो तो second-hand HP Z-Series workstation ECC RAM सपोर्ट करता है
      barebone सस्ते हैं, लेकिन ECC memory आम server RDIMM नहीं होती, इसलिए महंगी हो सकती है। यह low-power configuration भी नहीं है
    • Synology वगैरह में इस्तेमाल होने वाले AMD V2000 जैसे embedded SoC हैं
      HDD के एक case या पूरे 4U को संभालने जितना ऊपर जाना हो तो PCIe lanes चाहिए। उस स्थिति में w680, i5-12600K, एक ECC UDIMM, PCIe slot में SAS HBA, और onboard Ethernet का combination शायद संभव न्यूनतम power के करीब होगा
      अफसोस है कि w680 platform की कीमत बहुत ज्यादा है, और am4/zen2 सस्ता होने के कारण अब भी इस्तेमाल लायक है
      Xeon, embedded Xeon, am5, am4 भी संभव हैं, लेकिन am4 में integrated GPU न हो सकता है
      ECC के बिना RAID को 5 साल चलाना मूल रूप से गलत नहीं है; असल में कई लोग ऐसा करते हैं और बिना समस्या के निकल जाते हैं
    • second-hand e3 1245 v5 को eBay से 30 डॉलर में खरीदा, और Asus workstation motherboard, 32GB ECC, 4 spinning drives के साथ TrueNAS चला रहा हूँ
      अलग-अलग power नहीं पता, लेकिन यह NAS, i5 12400 compute machine, router और switch मिलाकर basic operation में wall power 100W लेते हैं। containers करीब 30 हैं
      पहले home server के तौर पर इस्तेमाल की गई पुरानी workstations की तुलना में यह बेहद efficient लगता है
    • सहमत हूँ। ECC की चर्चा दिखी ही नहीं
      यह board इस chip के साथ ECC support करता दिखता है: Supermicro X13SAE W680 LGA1700 ATX Motherboard
      कीमत 550 डॉलर है
      इसे केंद्र में रखकर build करने और PCIe 4.0-NVMe board से जरूरत के हिसाब से NVMe drives जोड़ने का तरीका भी है। सस्ता नहीं है, लेकिन home use के लिए manage करने लायक है
  • अच्छा लेख है। पहले मैंने भी कुछ ऐसा ही करने की कोशिश की थी
    https://vermaden.wordpress.com/2019/04/03/silent-fanless-fre...
    https://vermaden.wordpress.com/2023/04/10/silent-fanless-del...

  • ज्यादा storage वाली configuration के लिए यह शानदार है
    अगर storage एक SSD या RAID mirror pair में है और बहुत compute की जरूरत नहीं है, तो RasPi जैसे single-board computer या NUC जैसी चीज़ से low-power server बनाया जा सकता है
    निजी तौर पर मैं कुछ 1U Atom servers इस्तेमाल करता हूँ, जो power-supply fan को Noctua से बदलने के अलावा fanless चलते हैं
    RasPi के मुकाबले फायदे SATA और ECC RAM हैं, और कोरोना के समय भी इन्हें खरीदना आसान था
    एक 4U GPU server भी है, लेकिन लेखक की तरह low-power idle state बनाने का तरीका अभी गहराई से नहीं देखा है, इसलिए फिलहाल इस्तेमाल न होने पर उसे बंद रखता हूँ

  • हैरानी है कि N100 क्यों नहीं इस्तेमाल करते
    N305 भी इस उद्देश्य के लिए ठीक है, और N100 और भी कम होगा https://www.reddit.com/r/MiniPCs/comments/12fv7fh/beelink_eq...

    • जब यह लेख मई में लिखा गया था, N100 अभी release नहीं हुआ था या बस अभी-अभी release हुआ था
      साथ ही N100 सिर्फ 16GB RAM support करता है, जबकि यह व्यक्ति 64GB इस्तेमाल कर रहा है। PCIe lanes की संख्या भी 9 बनाम 20 है, जो use case के लिए अहम हो सकती है, और i5 कुल मिलाकर काफी ज्यादा तेज दिखता है
      तुलना: https://ark.intel.com/content/www/us/en/ark/compare.html?pro...
    • Nx00 series chips के पक्ष में मेरा वोट है। N100 वाला ready-made mini PC अभी खरीदा है; low-power है, कीमत अच्छी है और performance भी शानदार है
      सोचता हूँ कि कुछ साल बाद क्या यह mini PC market को पूरा निगल नहीं जाएगा। अगर कीमतें घटकर कई Pi series से compete करने लायक हो गईं, तो यह और भी संभव लगता है
    • AliExpress से खरीदे हथेली के आकार के N100 mini PC से बहुत खुश हूँ
      2–8W के बीच इस्तेमाल करता है, और बस साधारण 12V adapter और DC barrel jack इस्तेमाल करता है। Home Assistant और हल्की virtualization के लिए perfect है
      performance quad-core i5-6500 mini PC से वास्तव में बेहतर है। बिल्कुल भी slow नहीं है
    • क्योंकि लेखक ने कहा था कि उन्हें कई disks चाहिए
    • मैं भी N100 mini PC से संतुष्ट हूँ। दो spinning USB drives सहित idle करीब 7W है, और पूरी तरह push करने पर भी करीब 14W था
      कीमत के मुकाबले वाकई कमाल का छोटा system है
  • CPU/मदरबोर्ड पर खर्च बचाने के लिए optimize करते हुए, असल में 6 या उससे ज्यादा drives इस्तेमाल करने के बजाय कम संख्या में बड़े drives न लेना शायद छोटी बचत, बड़ा नुकसान वाली बात हो सकती है

    • मुझे लगता है drives को 5 या 6 के सेट में खरीदना बेहतर है। बेशक, यह काफी विवाद वाला विषय है
      drives खराब होते हैं, इसलिए redundancy के लिए कम से कम एक extra चाहिए, और मैं 2 की सलाह देता हूं। क्योंकि एक खराब हो जाने पर भी replacement के दौरान operation जारी रखा जा सकता है
      अगर 3 drives से RAID-1 mirror बनाया जाए, तो usable capacity सिर्फ एक drive जितनी रह जाती है और यह महंगा पड़ता है, इसलिए ज्यादातर लोग dual-parity RAID-5 family की तरफ देखते हैं
      लेकिन ऐसी configuration में 6 से ज्यादा drives डालने पर performance problems शुरू हो जाती हैं, और कभी-कभी दो RAID के across striping करना बेहतर होता है। 6 से ऊपर जाने पर 3 drives के fail होने की संभावना भी नजरअंदाज करना मुश्किल हो जाती है, इसलिए और parity stripes जोड़नी पड़ती हैं
      इसलिए मुझे 6 एक ठीक sweet spot लगता है, लेकिन दूसरे reasonable answers भी पूरी तरह संभव हैं
      बेशक, आपके पास कितना data है यह भी अहम है। कई लोगों के लिए आजकल की एक disk ही काफी होती है, इसलिए वे RAID-1 चुनते हैं, और redundancy का मकसद failure के बाद offsite backup restore का इंतजार न करना ज्यादा होता है