AI इंजीनियरों का दावा, नया algorithm AI की बिजली खपत 95% तक घटाता है

 (tomshardware.com)
1 पॉइंट द्वारा GN⁺ 2024-10-20 | 1 टिप्पणियां | WhatsApp पर शेयर करें

  • AI इंजीनियरों का दावा है कि उन्होंने एक नए algorithm से AI की बिजली खपत 95% तक घटा दी है

    • BitEnergy AI के इंजीनियरों ने floating-point multiplication को integer addition से बदलने का तरीका विकसित किया है।
    • इस तरीके को Linear-Complexity Multiplication (L-Mul) कहा जाता है, और यह floating-point multiplication के परिणाम के काफ़ी करीब रहते हुए भी उच्च accuracy और precision बनाए रखता है।
    • AI systems की बिजली खपत को 95% तक कम कर सकने के कारण इसे एक महत्वपूर्ण प्रगति माना जा रहा है।

  • मौजूदा hardware के साथ compatibility की समस्या

    • Nvidia के Blackwell GPU जैसे मौजूदा market hardware इस algorithm को प्रोसेस करने के लिए डिज़ाइन नहीं किए गए हैं।
    • अगर AI chip निर्माता ऐसे ASIC विकसित करते हैं जो इस algorithm का उपयोग कर सकें, तो बड़ी tech कंपनियों द्वारा इस तकनीक को अपनाने की संभावना काफ़ी बढ़ जाएगी।

  • AI की बिजली खपत की समस्या

    • AI development की सबसे बड़ी सीमाओं में से एक बिजली है, और data center के GPU बहुत अधिक बिजली खर्च करते हैं।
    • Google ने AI की बिजली मांग के कारण अपने climate goals को पीछे खिसकाया है, और greenhouse gas emissions बढ़े हैं।
    • अगर AI processing अधिक power-efficient हो जाए, तो पर्यावरण की क़ीमत चुकाए बिना उन्नत AI तकनीक हासिल की जा सकती है।

GN⁺ का सार

  • यह लेख एक नए algorithm पर केंद्रित है जो AI की power efficiency में बड़ा सुधार ला सकता है। यह AI तकनीक की sustainability बढ़ाने में महत्वपूर्ण भूमिका निभा सकता है।
  • L-Mul algorithm floating-point multiplication की जगह लेकर बिजली खपत घटाता है, जबकि उच्च accuracy और precision बनाए रखता है।
  • मौजूदा hardware के साथ compatibility की समस्या है, लेकिन ASIC development के ज़रिए इसका समाधान संभव हो सकता है।
  • यह तकनीक AI की बिजली खपत की समस्या को कम करके पर्यावरण पर सकारात्मक प्रभाव डाल सकती है।

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-10-20
Hacker News राय

  • L-Mul एल्गोरिदम floating-point multiplication को integer addition से approximate करके energy cost को काफी कम कर सकता है

    • 95% energy reduction की संभावना वाले दावे पर संदेह की गुंजाइश है
    • कई experts इस क्षेत्र में लंबे समय से शोध कर रहे हैं, इसलिए ऐसे दावों के लिए असाधारण सबूत की ज़रूरत है

  • यह IEEE754 floating-point representation का उपयोग करके log operations के ज़रिए multiplication को सरल बनाने का तरीका अपनाता है

  • इस बात पर सवाल उठाया गया है कि क्या इस मामले में Jevons paradox लागू हो सकता है

  • नया तरीका energy बचाने का दावा करता है, लेकिन वास्तविक benchmark results की कमी के कारण संशय बना हुआ है

  • Lemurian Labs logarithmic number system (LNS) का उपयोग करके इसी तरह की तकनीक विकसित कर रही है

  • इस शोध की तुलना room-temperature superconductor की खोज जैसे बढ़ा-चढ़ाकर किए गए दावों से की जा सकती है

  • यह पुष्टि हुई है कि यह पेपर पहले ही duplicate के रूप में पोस्ट किया जा चुका है