gpudeploy - GPU के लिए "Airbnb"

 (gpudeploy.com)
1 पॉइंट द्वारा GN⁺ 2024-05-06 | 1 टिप्पणियां | WhatsApp पर शेयर करें

GPU मार्केटप्लेस

  • GPU Deploy मशीन लर्निंग और AI के लिए किफायती ऑन-डिमांड GPU सेवा उपलब्ध कराता है।
  • मशीन लर्निंग वर्कलोड के लिए पहले से कॉन्फ़िगर किया गया है, इसलिए GPU इंस्टेंस तुरंत शुरू किए जा सकते हैं।

उपलब्ध GPU स्पेसिफिकेशन और कीमतें

  • Nvidia H100, A100, GeForce RTX 4090/3060, Quadro RTX 6000 आदि विविध GPU मॉडल समर्थित हैं।
  • GPU RAM 11GB से 638?GB तक उपलब्ध नहीं नहीं, wait revise

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-05-06
Hacker News टिप्पणियाँ
  • तीसरे पक्ष को GPU संसाधन उपलब्ध कराते समय ध्यान देने लायक बातें:
    • गोपनीयता की समस्या - अटैकर GPU हनीपॉट इंस्टॉल करके डेटा कलेक्ट कर सकता है
    • नकली GPU कम्प्यूटेशन - अटैकर गणना खर्च घटाने के लिए फर्जी GPU इस्तेमाल कर डमी डेटा भेज सकता है
    • खराब GPU - भले ही मंशा गलत न हो, खराब GPU से गलत परिणाम आ सकते हैं
  • सेवा की शर्तों और गोपनीयता नीति को स्वीकारना पड़ता है, लेकिन लिंक का खाली पेज पर खुलना अजीब लगता है
  • आइडिया अपने आप में मजबूत है। यह Vast.ai जैसा "GPU के लिए Airbnb" कॉन्सेप्ट है, लेकिन यह सेवा अलग और बेहतर कैसे होगी, यह जानने की जिज्ञासा है
  • "GPU के लिए Airbnb" से शायद "ऑन-डिमांड GPU provisioning" ज्यादा समझ में आता है
  • बढ़िया आइडिया और शुभकामनाएँ! Akash Network नाम की एक crypto project काफी प्रभावशाली लगती है; इसमें demand और लीगल यूज़ केस मौजूद हैं
  • मुझे Stability AI द्वारा hardware ओवर-प्रोविजन करने जैसी बातों की पूरी समझ नहीं है। लगता है AI ओवरहाइप में आँखें चौंधिया गई हैं
  • शानदार आइडिया! Provider के लिए security guarantee कैसे होगी? GPU क्लस्टर lease करते समय tenant को कौन-सा access देना चाहिए? क्या केवल GPU kernel भेजे जाएँगे, या सीमित user access भी मिलेगा? क्या ऑपरेटर बिना router port खोले बेहतर UX के लिए private network में जोड़ने पर भी सोच रहा है?
  • अगर कीमतें देखनी हैं तो GPUMonger.com देखें। यह सेवा कहीं ज्यादा mature और वास्तविक लगती है, लेकिन अगर सिर्फ price comparison चाहिए तो GPUMonger शायद बेहतर होगा।
  • हार्डवेयर समस्याओं के लिए software solutions देने वाली ऐसी कंपनियाँ तेज़ी से उभर रही हैं। अधिकांश उपलब्ध कंप्यूटिंग पावर पहले ही allocate दिख रही है, इसलिए और अधिक providers जोड़ने की जरूरत होगी। समझ नहीं आता Y Combinator इसी तरह की कंपनियों में दोबारा निवेश क्यों कर रहा है। Shadeform.ai इसका एक और उदाहरण है।
  • कुछ टिप्पणियाँ:
    • इंस्टॉलेशन स्क्रिप्ट का स्रोत देखकर लगता है कि यह set -e से शुरुआत नहीं करती, इसलिए incomplete install हो सकता है
    • "instance-server" नाम का बाइनरी इंस्टॉल होता है, लेकिन यह क्या करता है पता नहीं। क्या इसे अपने server/network पर ट्रस्ट किया जा सकता है?
    • यह अभी Nvidia-only लगता है, इसलिए AMD GPU शायद तुरंत supported नहीं होंगे
    • यह MVP जैसा लगता है। देखना होगा कि समय के साथ यह कितना grow करता है।
  • अगर RTX 4090 idle हो तो कितना कमाया जा सकता है?