- Google DeepMind के शोधकर्ताओं ने AI training की गति बढ़ाने के लिए JEST नाम की नई विधि को एक शोध-पत्र के रूप में प्रकाशित किया है। यह किसी task के लिए आवश्यक computation resources और समय को काफी कम करती है
- Multimodal Contrastive learning with Joint Example Selection (JEST) तरीका अधिकतम 13 गुना तेज़ और 10 गुना अधिक efficient है। इसका मतलब है कि यह energy requirements को कम कर सकता है
- आम तौर पर energy-intensive process के लिए ऐसा नया दृष्टिकोण, हालिया research paper के अनुसार, AI development को अधिक तेज़ और सस्ता बना सकता है। यह पर्यावरण के लिए अच्छी खबर है
AI उद्योग की ऊंची ऊर्जा खपत
- बड़े AI systems को भारी processing capability की आवश्यकता होती है, जिसके लिए बहुत अधिक energy और cooling के लिए पानी चाहिए
- रिपोर्ट के अनुसार, 2021 से 2022 के बीच AI computing demand बढ़ने की वजह से Microsoft की water consumption में 34% की तेज़ बढ़ोतरी हुई
- IEA का अनुमान है कि 2022 से 2026 के बीच data center की बिजली खपत दोगुनी हो जाएगी। इससे AI की power demand और आलोचना झेल रहे cryptocurrency mining industry के energy profile के बीच तुलना की जा रही है
- लेकिन JEST जैसी approach एक समाधान दे सकती है। AI training के लिए data selection को optimize करके आवश्यक iterations और computing power को काफी कम किया जा सकता है, जिससे कुल energy consumption घट सकती है
JEST कैसे काम करता है
- JEST, AI model की learning potential को अधिकतम करने के लिए एक-दूसरे के पूरक data batches चुनता है। अलग-अलग examples चुनने वाली मौजूदा विधियों के विपरीत, यह algorithm पूरे set की composition को ध्यान में रखता है
- Google के शोधकर्ताओं ने "multimodal contrastive learning" का उपयोग किया, जिसमें JEST process data points के बीच dependencies की पहचान करता है। यह विधि AI training की speed और efficiency को बेहतर बनाती है, जबकि इसके लिए बहुत कम computing power की जरूरत होती है
- इस approach का मुख्य हिस्सा pre-trained reference model का उपयोग करके data selection process को guide करना था। इस तकनीक की मदद से model उच्च-गुणवत्ता वाले, अच्छी तरह curated datasets पर ध्यान केंद्रित कर सका, जिससे training efficiency और बेहतर हुई
- JEST का उपयोग करके WebLI dataset पर training में learning speed और resource efficiency में उल्लेखनीय सुधार दिखा
- यह algorithm "data quality bootstrapping" नामक तकनीक का उपयोग करके training process को तेज़ करता है, जिसमें "matching" करने वाले खास data fragments पर फोकस किया जाता है। यह तकनीक quantity की तुलना में quality को अधिक महत्व देती है और AI training के लिए बेहतर साबित हुई है
अभी कोई टिप्पणी नहीं है.