Silurian (YC S24) लॉन्च – पृथ्वी सिमुलेशन तकनीक

 (news.ycombinator.com)
1 पॉइंट द्वारा GN⁺ 2024-09-17 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • Silurian पृथ्वी सिमुलेशन के लिए foundation model बना रहा है, और पहले उपयोग क्षेत्र के रूप में मौसम पूर्वानुमान चुना है, जहाँ एक दिन भी पहले की भविष्यवाणी का मूल्य बहुत बड़ा होता है
  • पारंपरिक मौसम पूर्वानुमान में लगभग हर 10 साल में 1 दिन जितना सुधार होता आया है, लेकिन हाल के GPU और आधुनिक deep learning ने इस गति को तेज किया है
  • 2022 के बाद NVIDIA, Google DeepMind, Huawei, Microsoft आदि में deep learning आधारित मौसम पूर्वानुमान पर शोध तेज हुआ है, और data-based models पारंपरिक वायुमंडलीय physics simulation से बेहतर परिणाम दे सकते हैं
  • Microsoft के ClimaX और Aurora के अनुभव के आधार पर बना GFT(Generative Forecasting Transformer) दुनिया भर के मौसम को अधिकतम 14 दिनों तक लगभग 11km resolution पर simulate करता है
  • दीर्घकालिक लक्ष्य ऊर्जा grid, कृषि, logistics, रक्षा जैसी मौसम से प्रभावित infrastructure तक modeling का विस्तार करना है, और फिलहाल 2024 hurricane path prediction सार्वजनिक किया गया है

मौसम पूर्वानुमान से शुरू होने वाला पृथ्वी सिमुलेशन

  • Silurian Jayesh, Cris और Nikhil की बनाई टीम है, जो पृथ्वी सिमुलेशन के लिए foundation model विकसित कर रही है
  • पहला उपयोग क्षेत्र मौसम पूर्वानुमान है, और हालिया hurricane prediction results hurricanes2024.silurian.ai पर देखे जा सकते हैं
  • लक्ष्य मॉडल का विस्तार करके उसे भौतिक रूप से संभव पूर्वानुमान की सीमा तक ले जाना है
  • लंबे समय में कंपनी मौसम से प्रभावित infrastructure तक modeling करना चाहती है
    • ऊर्जा grid
    • कृषि
    • logistics
    • रक्षा

deep learning पूर्वानुमान और GFT का वर्तमान प्रदर्शन

  • पारंपरिक forecasting systems की performance में हर 10 साल में लगभग 1 दिन का सुधार होता आया है; यानी आज का 6-दिन का forecast, 10 साल पहले के 5-दिन के forecast जितना सटीक होने की रफ्तार थी
  • 2022 के बाद NVIDIA, Google DeepMind, Huawei, Microsoft आदि में मौसम deep learning systems पर शोध तेजी से बढ़ा है
  • इन models में भौतिक नियम बहुत कम या बिल्कुल भी built-in नहीं होते, और ये केवल data से prediction सीखते हैं
  • Jayesh और Cris ने Microsoft में क्रमशः ClimaX और Aurora प्रोजेक्ट्स का नेतृत्व करते हुए इस तकनीक की क्षमता को सीधे अनुभव किया
    • इन foundation models ने मौसम पूर्वानुमान के मानक माने जाने वाले ECMWF forecasts से बेहतर परिणाम दिए
    • इस्तेमाल किया गया training data उपलब्ध data का केवल एक हिस्सा था
  • Silurian ने इस गर्मियों में अपना foundation model GFT(Generative Forecasting Transformer) बनाया
    • यह 1.5 billion parameters वाला frontier model है
    • यह दुनिया भर के मौसम को अधिकतम 14 दिन आगे तक simulate करता है
    • इसका resolution लगभग 11km है
  • ऐतिहासिक रिकॉर्ड में extreme weather data कम है, लेकिन 2024 hurricane path prediction में GFT ने अभी तक बहुत अच्छा प्रदर्शन दिखाया है
  • hurricane prediction को hurricanes2024.silurian.ai पर सीधे देखा जा सकता है
  • visualization के लिए open source weather visualization tool cambecc/earth का उपयोग किया गया है

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-09-17
Hacker News राय

  • यह देखकर खुशी है कि अब tropical cyclone का ensemble forecasting किया जा सकता है

    • ML मॉडल और ECMWF के HRES मॉडल की तुलना देखकर निराशा हुई
    • HRES औसत मौसम का सर्वोत्तम अनुमान नहीं, बल्कि संभावित मौसम का एकल realization है
    • NeuralGCM WeatherBench leaderboard में ऊपर है
    • मैं WeatherBench पर मॉडलों के प्रदर्शन की तुलना देखना चाहता हूँ

  • जिन मॉडलों में physics built-in नहीं है, वे केवल डेटा के आधार पर बेहतर forecasting कर रहे हैं

    • NLP की कहावत, "हर बार जब आप एक linguist को हटाते हैं, performance बढ़ जाती है," physics researchers पर भी लागू होती दिखती है

  • Silurian पृथ्वी का simulation करने वाला foundation model बना रहा है

    • अगर यह सफल होता है, तो आगे और क्या simulate करना चाहेंगे, यह जानने की उत्सुकता है

  • ClimaX की commercial potential को लेकर उत्साह है

    • यह जानना चाहता हूँ कि क्या किसी खास industry ने इसकी commercial potential के बारे में संपर्क किया है (जैसे: natural resource exploration)

  • एक non-profit के रूप में भूमि के लिए ऐसा ही मॉडल बना रहा हूँ

    • land mask को land embedding से बदलने में मदद करना चाहूँगा
    • इससे स्थानीय प्रभावों को downscale करने में काफी मदद मिलेगी

  • यह Google के पिछले साल जारी GraphCast से कैसे अलग है, यह जानने की उत्सुकता है

  • weather models भ्रमित करने वाले हैं

    • यह जानना चाहता हूँ कि क्या ML methods physics-based simulation की तुलना में संख्यात्मक रूप से अधिक stable हैं
    • यह भी जानना चाहता हूँ कि computational requirements के लिहाज़ से इनकी तुलना कैसी है
    • पहले FORTRAN से Verilog में मॉडल बदलने का अनुभव रहा है

  • यह जानना चाहता हूँ कि क्या इस approach को अप्रत्याशित earthquakes पर लागू करने की कोशिश की गई है

  • यह approach "The Bitter Lesson" का एक और उदाहरण लगती है

  • भविष्य में और क्या simulate किया जाएगा, यह जानने की उत्सुकता है

    • San Francisco में natural language से objects खोजने वाला एक demo बनाया था
    • Clay embeddings आज़माए, लेकिन CLIP से fine-tune किए गए OSM caption embeddings की तुलना में उनका प्रदर्शन कमजोर था