NVBeacon - macOS मेन्यू बार में remote NVIDIA GPU स्टेटस देखने वाला ऐप
(github.com/jaein4722)AI research का काम करते हुए मैं shared GPU server पर अक्सर training चलाता हूँ। हर बार यह देखने के लिए कि कोई खाली GPU है या नहीं, training process अभी चल रही है या नहीं, और util व memory ठीक से इस्तेमाल हो रहे हैं या नहीं, मुझे बार-बार terminal खोलकर nvidia-smi देखना पड़ता था, जो काफ़ी झंझट भरा था.
इसलिए मैंने एक ऐसा ऐप बनाया जो macOS मेन्यू बार से सीधे remote NVIDIA GPU server की स्थिति दिखा सकता है। यह SSH से server से जुड़कर जानकारी लाता है, और server side पर किसी अलग agent या अतिरिक्त program की installation के बिना काम करता है.
मेन्यू बार में connected server का GPU status तुरंत देखा जा सकता है, और process-by-process जानकारी भी साथ में मिलती है। सिर्फ़ basic nvidia-smi से तुरंत देखना मुश्किल होने वाले process UID भी यह लाता है, ताकि कौन-सा user कौन-सा काम चला रहा है, यह थोड़ा और सहज तरीके से समझा जा सके। मौजूदा SSH settings का अधिकतम उपयोग करने और अपने चल रहे process को जल्दी ढूँढने पर भी ध्यान दिया गया है.
यह tool मैंने मूल रूप से अपने इस्तेमाल के लिए बनाया था, लेकिन आसपास के लोगों से इसे हल्के तौर पर test करवाने पर उम्मीद से बेहतर प्रतिक्रिया मिली, इसलिए इसे सार्वजनिक कर दिया। फिलहाल यह सिर्फ़ macOS के लिए है.
अगर इसी तरह के environment में GPU server अक्सर इस्तेमाल करने वाले लोग हों, तो एक बार इसे आज़माकर देखें। कोई असुविधा या ज़रूरी feature लगे तो feedback दें, आभारी रहूँगा!
2 टिप्पणियां
वाह... यह सच में बहुत उपयोगी लगेगा
धन्यवाद!
इसे सुविधाजनक तरीके से इस्तेमाल किया जा सके, इसके लिए हम लगातार सुधार कर रहे हैं.