Silurian (YC S24) लॉन्च – पृथ्वी simulation तकनीक

 (news.ycombinator.com)
1 पॉइंट द्वारा GN⁺ 2024-09-17 | 1 टिप्पणियां | WhatsApp पर शेयर करें

  • हम Jayesh, Cris और Nikhil हैं, और Silurian टीम का हिस्सा हैं। Silurian पृथ्वी को simulate करने वाला foundational model बना रहा है, जिसकी शुरुआत weather forecasting से हो रही है। हाल के hurricane prediction results को यहाँ visualise किया जा सकता है

  • अगर मौसम का पूर्वानुमान एक दिन पहले मिल जाए, तो उसकी कितनी value होगी? पारंपरिक forecasting systems में prediction accuracy हर 10 साल में लगभग एक दिन बेहतर होती रही है। लेकिन हाल के वर्षों में GPU और modern deep learning तकनीकों की वजह से यह रफ्तार तेज हो रही है

  • 2022 के बाद से NVIDIA, Google DeepMind, Huawei, Microsoft आदि में weather deep learning systems पर सक्रिय शोध हो रहा है। ये models लगभग बिना physics को embed किए, सिर्फ data से prediction सीखते हैं। हैरानी की बात यह है कि यह approach पारंपरिक atmospheric physics simulation से भी बेहतर forecast दे रही है

  • Jayesh और Cris ने Microsoft के ClimaX और Aurora projects का नेतृत्व करते हुए इस तकनीक की क्षमता को प्रत्यक्ष रूप से देखा। उनके बनाए foundational models ने weather forecasting के gold standard माने जाने वाले ECMWF के forecasts को बेहतर किया, जबकि इस्तेमाल किया गया training data बहुत कम था। Silurian का लक्ष्य इन models को जितना संभव हो उतना scale करना और physical forecasting की सीमाओं तक पहुँचना है। अंततः लक्ष्य energy grid, agriculture, logistics, defence आदि सहित weather से प्रभावित हर infrastructure को model करना है। यानी, पृथ्वी को simulate करना

  • इस गर्मी में, हमने GFT (Generative Forecasting Transformer) नाम का 1.5B parameter frontier model बनाया। यह model लगभग 11km resolution पर 14 दिनों तक के global weather को simulate करता है। historical records में extreme weather data की कमी होने के बावजूद, GFT ने 2024 hurricane track forecasting में बहुत मजबूत प्रदर्शन दिखाया है। यहाँ हमारे hurricane forecasts देखे जा सकते हैं। हमने इसे visualise करने के लिए cambecc/earth नाम का open source weather visualisation tool इस्तेमाल किया है

  • HN पर इस लॉन्च को लेकर हम बेहद उत्साहित हैं, और आपकी राय सुनना चाहते हैं

GN⁺ की संक्षिप्त整理

  • Silurian weather forecasting से शुरुआत करते हुए पृथ्वी को simulate करने वाला foundational model बना रही कंपनी है
  • हाल के वर्षों में deep learning तकनीक की प्रगति से weather forecasting की accuracy में बड़ा सुधार हो रहा है
  • Silurian का GFT model extreme weather data की कमी के बावजूद मजबूत forecasting performance दिखा रहा है
  • इस तकनीक में energy, agriculture, logistics जैसी कई infrastructures में लागू होने की क्षमता है
  • मिलती-जुलती क्षमताओं वाले projects में NVIDIA और Google DeepMind के weather deep learning systems शामिल हैं

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-09-17
Hacker News राय

  • यह देखकर खुशी है कि अब tropical cyclone का ensemble forecasting किया जा सकता है

    • ML मॉडल और ECMWF के HRES मॉडल की तुलना देखकर निराशा हुई
    • HRES औसत मौसम का सर्वोत्तम अनुमान नहीं, बल्कि संभावित मौसम का एकल realization है
    • NeuralGCM WeatherBench leaderboard में ऊपर है
    • मैं WeatherBench पर मॉडलों के प्रदर्शन की तुलना देखना चाहता हूँ

  • जिन मॉडलों में physics built-in नहीं है, वे केवल डेटा के आधार पर बेहतर forecasting कर रहे हैं

    • NLP की कहावत, "हर बार जब आप एक linguist को हटाते हैं, performance बढ़ जाती है," physics researchers पर भी लागू होती दिखती है

  • Silurian पृथ्वी का simulation करने वाला foundation model बना रहा है

    • अगर यह सफल होता है, तो आगे और क्या simulate करना चाहेंगे, यह जानने की उत्सुकता है

  • ClimaX की commercial potential को लेकर उत्साह है

    • यह जानना चाहता हूँ कि क्या किसी खास industry ने इसकी commercial potential के बारे में संपर्क किया है (जैसे: natural resource exploration)

  • एक non-profit के रूप में भूमि के लिए ऐसा ही मॉडल बना रहा हूँ

    • land mask को land embedding से बदलने में मदद करना चाहूँगा
    • इससे स्थानीय प्रभावों को downscale करने में काफी मदद मिलेगी

  • यह Google के पिछले साल जारी GraphCast से कैसे अलग है, यह जानने की उत्सुकता है

  • weather models भ्रमित करने वाले हैं

    • यह जानना चाहता हूँ कि क्या ML methods physics-based simulation की तुलना में संख्यात्मक रूप से अधिक stable हैं
    • यह भी जानना चाहता हूँ कि computational requirements के लिहाज़ से इनकी तुलना कैसी है
    • पहले FORTRAN से Verilog में मॉडल बदलने का अनुभव रहा है

  • यह जानना चाहता हूँ कि क्या इस approach को अप्रत्याशित earthquakes पर लागू करने की कोशिश की गई है

  • यह approach "The Bitter Lesson" का एक और उदाहरण लगती है

  • भविष्य में और क्या simulate किया जाएगा, यह जानने की उत्सुकता है

    • San Francisco में natural language से objects खोजने वाला एक demo बनाया था
    • Clay embeddings आज़माए, लेकिन CLIP से fine-tune किए गए OSM caption embeddings की तुलना में उनका प्रदर्शन कमजोर था