Google ने पहली बार खुलासा किया कि AI prompts कितनी ऊर्जा खर्च करते हैं
(technologyreview.com)- Google ने अपने Gemini app में prompt processing के दौरान होने वाली बिजली, पानी और carbon emissions की खपत सार्वजनिक की, जिससे AI energy use पर पहली ठोस और विशिष्ट जानकारी सामने आई
- एक औसत text prompt 0.24Wh बिजली खर्च करता है, जो microwave को 1 सेकंड चलाने के बराबर है, और इससे 0.26ml पानी तथा 0.03g carbon dioxide उत्सर्जित होता है
- ये आंकड़े AI chips (58%), CPU और memory (25%), backup equipment (10%), और data center operations (8%) समेत पूरी infrastructure को शामिल करने वाले व्यापक विश्लेषण का परिणाम हैं
- मई 2024 की तुलना में मई 2025 तक energy efficiency में 33 गुना सुधार हुआ, जिसका कारण Google ने software optimization और model improvements को बताया
- यह घोषणा बड़ी AI कंपनियों में transparency बढ़ने के लिहाज़ से महत्वपूर्ण है, लेकिन total queries जैसी अहम जानकारी अब भी सार्वजनिक नहीं की गई, जिससे standardized AI energy evaluation system की ज़रूरत पर ज़ोर बढ़ा है
Google के Gemini prompt energy use का खुलासा
- Google पहली बड़ी AI कंपनी है जिसने Gemini models द्वारा text prompts process करते समय होने वाली बिजली, carbon emissions और पानी की खपत का खुलासा किया है
- एक औसत prompt 0.24Wh बिजली, 0.26ml पानी, और 0.03g CO₂ उत्पन्न करता है, जो microwave को 1 सेकंड चलाने या पानी की पांच बूंदों के बराबर है
- यह जानकारी MIT Technology Review के साथ एक इंटरव्यू में विस्तृत डेटा और calculation method के साथ साझा की गई
ऊर्जा उपयोग की विस्तृत संरचना
- कुल बिजली खपत में AI chips (TPU) का हिस्सा 58%, CPU और memory का 25%, backup equipment का 10%, और data center operations (cooling और power conversion) का 8% है
- Google ने कहा कि यह विश्लेषण पूरे hardware infrastructure को शामिल करने वाले व्यापक तरीके से किया गया है
- इसे ऐसे internal data के खुलासे के रूप में देखा जा रहा है, जिन तक researchers की पहुंच सामान्यतः मुश्किल होती है, और इसे industry research में योगदान माना जा रहा है
अलग-अलग prompts में अंतर और सीमाएं
- जारी किए गए आंकड़े median हैं, इसलिए कुछ queries इससे कहीं अधिक ऊर्जा खर्च कर सकती हैं
- उदाहरण: दर्जनों किताबों का summary बनाना या reasoning models का उपयोग करने वाली जटिल computation
- यह रिपोर्ट केवल text prompts पर आधारित है; image और video generation इसमें शामिल नहीं हैं
- इसलिए Gemini के पूरे उपयोग में वास्तविक कुल resource consumption का अंदाज़ा लगाने में अब भी सीमाएं मौजूद हैं
efficiency improvement और carbon emissions का अनुमान
- Google ने कहा कि मई 2024 की तुलना में मई 2025 तक प्रति prompt energy consumption 33 गुना घट गई
- इसके पीछे model architecture में सुधार और software optimization को कारण बताया गया
- emissions estimate के लिए अमेरिकी power grid के औसत के बजाय, Google द्वारा खरीदी गई clean energy के हिस्से को शामिल करने वाली market-based method का उपयोग किया गया, जिससे यह सामान्य grid की तुलना में लगभग एक-तिहाई स्तर पर निकला
researchers और industry की प्रतिक्रिया
- University of Michigan के ML.Energy project से जुड़े लोगों ने इसे अब तक का सबसे व्यापक और महत्वपूर्ण analysis बताया
- Hugging Face के researchers ने standardized AI energy rating system की ज़रूरत पर ज़ोर दिया और कहा कि फिलहाल कंपनियां चुनिंदा जानकारी ही सार्वजनिक करती हैं
- यह रिपोर्ट AI उपयोग के वास्तविक resource consumption को समझने में मदद करती है, लेकिन total queries जैसी अहम जानकारी की कमी अब भी एक बड़ी सीमा बनी हुई है
1 टिप्पणियां
Hacker News राय
मूल लेख में संबंधित प्रेस रिलीज़ और रिपोर्ट के लिंक नहीं मिले, इसलिए उन्हें सीधे जोड़ रहा हूँ
power infrastructure overload से जुड़ी रिपोर्टें देखता हूँ, तो लगता है जैसे tech कंपनियों को environment के लिए harmful दिखाने वाली एक तरह की ‘dog whistle’ रणनीति है
पानी के उपयोग, बिजली के उपयोग को मुद्दा बनाया जाता है, लेकिन अक्सर उसे ज़रूरत से ज़्यादा सनसनीखेज़ बनाया जाता है
Dalles data center के water consumption की आलोचना इसका प्रतिनिधि उदाहरण है
ये इमारतें Columbia River के किनारे हैं, और पास में औसतन 700 megawatt पैदा करने वाला Dalles Dam है
नदी के पानी को cooling के लिए इस्तेमाल करके, थोड़ा गरम करके फिर नदी में लौटा दिया जाता है
क्योंकि पानी ढलान की तरफ़ बहता है, तो यह एक तरह से वह गर्मी वापस कर रहा होता है जो वह वैसे भी साथ ले जाता, इसलिए यह पूरी तरह बर्बादी नहीं है
संबंधित लेख, Dalles Dam जानकारी
Google की आधिकारिक technical report PDF यहाँ देखी जा सकती है
यह सोचने वाली बात है कि average की जगह median prompt की energy consumption क्यों जारी की गई
average वास्तविक औसत consumption को ज़्यादा सहज रूप से दिखाता
EV के मामले में भी, 2030 तक electric vehicle के mainstream हो जाने की उम्मीद वास्तविक नहीं थी
न battery production scale-up के लिए तैयारी थी, न infrastructure के लिए
data center में कभी-कभी किसी छोटे खास इलाके में अचानक बहुत बड़ी मात्रा में बिजली चाहिए होती है
EV, heat pump जैसी दूसरी चीज़ें धीरे-धीरे अपनाई जाती हैं, इसलिए सालाना थोड़ी-थोड़ी capacity बढ़ाकर काम चल सकता है
data center को फैलाना आसान नहीं होता, इसलिए infrastructure पर बोझ ज़्यादा पड़ता है
हाल में Gen Z के लोगों को यह कहते सुनकर हैरानी हुई कि AI पानी को ‘destroy’ कर रहा है
मैंने data center का काम किया है, इसलिए यह तो पता था कि cooling में पानी लगता है, लेकिन कभी ऐसा नहीं लगा कि बड़े पैमाने पर पानी नष्ट हो रहा है
GenAI और पानी को लेकर जागरूकता उम्मीद से ज़्यादा गहरी लगती है
कुछ लोग तो यह तक कहते हैं कि “AI की वजह से आगे चलकर हम drought hell में जिएंगे”
मुझे तो उल्टा यह जानने की जिज्ञासा है कि TikTok के एक वीडियो की energy consumption कितनी होती है, लेकिन शायद वह अलग बहस है
जब मैं पूछता हूँ कि पानी असल में किस रास्ते से गायब होता है, क्या वह water vapor बनता है, तो हैरानी होती है कि बहुत से लोग मान लेते हैं कि बस evaporate हुआ मतलब ‘हमेशा के लिए गायब’ हो गया
water molecule ‘destroy’ नहीं होता, लेकिन अक्सर वह उस जगह से पूरी तरह गायब हो जाता है जहाँ उसका उपयोगी इस्तेमाल हो सकता था
Aral Sea इसका बड़ा उदाहरण है, जो agricultural irrigation की वजह से गायब हो गया
YouTube वीडियो
water scarcity की समस्या बहुत स्थानीय होती है
उदाहरण के लिए Arizona में data center चलाएँ, तो सचमुच पानी की समस्या हो सकती है, लेकिन wastewater recycling जैसी चीज़ों से कुछ राहत मिल सकती है
Palo Verde power plant भी heat exchanger में wastewater इस्तेमाल करता है
मुझसे भी हाल में AI की water consumption पर सवाल पूछा गया था, और मैं भी चौंक गया
थोड़ा खोजने पर लगा कि data center उम्मीद से काफ़ी ज़्यादा पानी खर्च करते हैं। लगभग 1 liter प्रति 1kWh
यह सुना है कि hyperscaler कंपनियाँ इस संख्या से बेहतर प्रदर्शन करती हैं और net positive तक पहुँचना चाहती हैं, लेकिन यह दिखाने वाला डेटा बहुत कम है कि यह मान अपने आप में ही झूठा है
“1 liter/kWh” को महसूस करना मुश्किल है, लेकिन बड़े data center के लिए यह 278L/s बनता है। एक showerhead लगभग 0.16L/s देता है, और California almond industry का औसत सालाना उपयोग 200,000L/s है
यह लगभग 4 square mile almond farm जितना है, लेकिन फिर भी मुझे यह इतना चरम नहीं लगता, और hyperscaler का डेटा शायद इससे बेहतर होगा
data center evaporative cooling इस्तेमाल करते हैं
सिर्फ़ पानी गरम करके वापस नहीं भेजते, बल्कि उसे atmosphere के ज़रिए पूरी तरह evaporate कर देते हैं
(पानी के molecules बने रहते हैं, लेकिन atmosphere में मौजूद water vapor ऐसी शक्ल है जिसे फिर से उपयोग में लाना मुश्किल होता है)
“AI पानी को destroy कर रहा है” वाला दावा शुरू में NIMBY (स्थानीय विरोध) वाला तर्क था, और बाद में anti-capitalist झुकाव वाले कुछ Gen Z समूहों ने उसे AI विरोधी तर्क के रूप में अपना लिया
2011 में Google ने कहा था कि एक search query पर 0.3Wh लगती है, और इस साल की शुरुआत में Sam Altman ने भी कहा कि OpenAI query का average 0.3Wh है
दोनों संख्याएँ इतनी मिलती-जुलती हैं, यह हैरान करने वाला है
मुझे लगा था कि LLM query साधारण Google search से कहीं ज़्यादा energy-intensive होगी, लेकिन इससे एहसास होता है कि Google search खुद भी कितनी बड़ी infrastructure पर चलती है
उदाहरण के लिए, अगर सिर्फ़ किसी शब्द का अर्थ जैसी सरल चीज़ पूछनी हो, और iPhone पर एक छोटा LLM चल सके, तो शायद 0.03Wh काफ़ी होगा, यानी Google search से 10 गुना कम
(मान लें A16 chip 20 सेकंड तक 5 watt पर चले, तो 0.03Wh)
यहाँ मेरा सवाल यह है कि क्या training cost, ख़ासकर failed training runs, भी ऐसी estimates में शामिल होती हैं?
Google का आधिकारिक ब्लॉग पोस्ट
यह भी ध्यान रहे कि 14 साल की energy efficiency प्रगति का असर भी बड़ा है
2008 के आसपास search का core process लगभग सारे documents पर grep चलाने जैसा था
distributed setup में documents को RAM में रखकर 1000 machines पर grep चलाया जाता था
inverted index को “word order महत्वपूर्ण हो” वाली queries के लिए ज़्यादा उपयुक्त नहीं माना जाता था, इसलिए कम इस्तेमाल होता था
ranking process वगैरह इससे भी जटिल थे
0.3Wh यानी 1080 joule। 1 liter petrol में 30 million joule से ज़्यादा होते हैं, तो यह असल में सिर्फ़ 0.034 milliliter petrol के बराबर है
हाँ, electricity internal combustion engine की तुलना में बहुत ज़्यादा efficient है
जब मैं अपने local LLM में query डालता हूँ, तो लगता है जैसे office की लाइटें टिमटिमा रही हों, और उसमें oven को 1 सेकंड चलाने से भी ज़्यादा energy लग रही हो
सोचता हूँ कि 2008 के आसपास Google क्या तब भी deep learning आधारित search इस्तेमाल कर रहा था
features जोड़ने पर per-query power consumption में उतार-चढ़ाव आया होगा, ऐसा लगता है
पूरी report में यह नहीं बताया गया कि किस तरह का prompt ‘median’ है, यह कमी खलती है
prompt के token count, length distribution क्या हैं, और क्या वे साल-दर-साल एक जैसे रह सकते हैं, यह भी जानना चाहिए
ऐसी जानकारी के बिना सिर्फ़ median बता देना व्यावहारिक रूप से बहुत मायने नहीं रखता
average होता तो कम-से-कम उसे query count से गुणा करके कुल उपयोग का अनुमान लगाया जा सकता था
Sam Altman ने भी हाल की एक blog post में ChatGPT की average per-query power consumption बताई
ChatGPT की एक query पर औसतन 0.34Wh, यानी oven के 1.5 सेकंड, या एक high-efficiency bulb के कुछ मिनटों जितनी ऊर्जा
पानी की खपत 0.000085 gallon प्रति query, यानी एक teaspoon का 15वाँ हिस्सा
Altman ब्लॉग
मेरे हिसाब से असली अहम चीज़ inference नहीं, बल्कि training, fine-tuning और data scraping है
“prompt environment को destroy कर रहा है” जैसा तर्क बहुत sensational लगता है
यह अच्छा है कि अब fact-checking बेहतर हो रही है
लेकिन व्यवहारिक रूप से नए data center का transmission-distribution grid पर असर भी नज़रअंदाज़ करने लायक नहीं है
अगर यह technology बुनियादी तौर पर इतनी energy-efficient होती, तो आज बड़े tech groups private nuclear investment या energy competition तक न पहुँचे होते
सही लक्ष्य तय करना हो, तो सिर्फ़ कुल पानी और ऊर्जा खपत नहीं, बल्कि यह भी देखना होगा कि उस क्षेत्र में पानी और ऊर्जा संसाधन पर्याप्त हैं या नहीं
Google अपने data center के कुल water use की आधिकारिक रिपोर्ट देता है
2024 के अनुसार लगभग 10 billion gallon (अमेरिका के कुल उपयोग का लगभग 0.03%, और यह मानते हुए कि सारे data center अमेरिका में नहीं हैं)
संख्या अपने आप में बहुत बड़ी नहीं लगती, लेकिन सिर्फ़ Council Bluffs, IA में ही 1 billion gallon से ज़्यादा है, इसलिए यह देखना होगा कि क्या ऐसे इलाकों का ecosystem इसे झेल सकता है और क्या इसका ज़िम्मेदारी से प्रबंधन हो रहा है
Google खुद मानता है कि उसका 28% water use “ऐसे इलाकों में है जहाँ water depletion या scarcity risk मध्यम या उससे अधिक है”
Google 2025 environmental report
सिर्फ़ website खोलने भर से भी अनजाने में prompt server तक भेजे जा सकते हैं
सेवा जितनी सस्ती और बड़े पैमाने पर उपलब्ध होती है, उसका overuse उतना ही बढ़ता है, यह बात खलती है
इस दावे से सहमत नहीं हूँ कि अगर energy consumption सच में कम होती तो नए data center और energy infrastructure के लिए इतनी होड़ नहीं होती
अमेरिकी power grid में लंबे समय से अतिरिक्त spare capacity नहीं रही है
वजह energy efficiency improvements और industrial slowdown हैं
data center से भी बड़ा मुद्दा power distribution infrastructure है
generation संभव है, लेकिन उसे जहाँ ज़रूरत है वहाँ पहुँचाना बड़ी समस्या है
private power plant की बहस भी generation से ज़्यादा distribution issue है
अगर median prompt 0.24Wh खर्च करता है, तो यह लगभग:
ऊर्जा है
अगर मेरी गणना सही है, तो 1kWh में लगभग 4,000 queries हो सकती हैं
अगर industrial electricity price $0.04/kWh मानें, तो $1 में 100,000 queries संभव हैं
data center निर्माण लागत वगैरह जोड़ें, तब भी $20/month subscription बहुत ज़्यादा महँगा नहीं लगता
क्या मैंने सही हिसाब लगाया है?
हाँ, हिसाब सही है
AI की energy और water पर निराशावादी बहस की मूल गलती यह है कि बिजली, पानी, ज़मीन — सबकी लागत लगती है, जबकि AI सेवाएँ मुफ़्त या बहुत सस्ती दी जा रही हैं
अगर सच में AI सारी बिजली और पानी खा रहा होता, तो कंपनियाँ इसे सिर्फ़ घाटे में चलाती नहीं रहतीं
लेकिन training cost को अलग से नहीं सोचना चाहिए क्या?
अगर आप third-party लेख छोड़ना चाहते हैं, तो
Google ब्लॉग पोस्ट और
आधिकारिक paper PDF देख सकते हैं
Gemini की रोज़ की कुल query count जैसी कुल मात्रा ज़्यादा दिलचस्प है
सिर्फ़ median prompt का आंकड़ा होने से कुल energy demand का अनुमान नहीं लगाया जा सकता
कुल query count के बिना median अपने आप में बहुत मायने नहीं रखता
शायद average इससे बड़ा है, इसलिए जानबूझकर जारी नहीं किया गया होगा