Nvtop - Nvidia/AMD/Intel GPU के लिए Linux task monitor

 (github.com/Syllo)
12 पॉइंट द्वारा GN⁺ 2024-03-14 | 1 टिप्पणियां | WhatsApp पर शेयर करें
  • NVTop = "Neat Videocard TOP"
  • GPU और accelerators के लिए task monitor
  • कई GPU की जानकारी को संभालता है और htop जैसी शैली में जानकारी दिखाता है
  • वर्तमान में समर्थित vendors: AMD (Linux amdgpu driver), Apple (सीमित M1 & M2 समर्थन), Huawei (Ascend), Intel (Linux i915 driver), NVIDIA (Linux proprietary driver), Qualcomm Adreno (Linux MSM driver)

NVTOP विकल्प और interactive commands

  • Interactive settings window: F2 दबाकर एक settings utility खोली जा सकती है, जिससे इंटरफ़ेस को उपयोगकर्ता की ज़रूरत के अनुसार customize किया जा सकता है।
  • Configuration save: settings window में किए गए configuration को F12 दबाकर सेव किया जा सकता है, और अगली बार nvtop चलाने पर यह लोड हो जाएगा।
  • NVTOP manual और command options: manual page उपलब्ध है (man nvtop), और command help nvtop -h या nvtop --help से देखी जा सकती है।

GPU समर्थन

  • AMD: amdgpu driver के ज़रिए AMD GPU समर्थन। kernel 5.14 या उसके बाद के संस्करणों में GPU उपयोग करने वाली processes देखी जा सकती हैं।
  • Intel: i915 Linux driver के ज़रिए Intel GPU समर्थन। kernel 5.19 या उसके बाद के संस्करणों में GPU उपयोग करने वाली processes देखी जा सकती हैं।
  • NVIDIA: NVML library के माध्यम से समर्थन। Kepler microarchitecture से पहले के GPU कुछ queries को support नहीं करते।
  • Adreno: msm Linux driver के ज़रिए Adreno GPU समर्थन। kernel 6.0 या उसके बाद के संस्करणों में GPU उपयोग करने वाली processes देखी जा सकती हैं।
  • Apple: Metal का उपयोग करते हुए Apple के लिए शुरुआती समर्थन शामिल है। केवल Apple build पर समर्थित।
  • Ascend: DCMI API (version 6.0.0) के माध्यम से Ascend समर्थन। फिलहाल DCMI केवल सीमित API support देता है।

Build

  • ज़रूरी libraries: ncurses (user interface), NVIDIA (NVML), AMD (libdrm), Intel (i915) आदि।
  • Build process: source code को git clone से clone करें, फिर cmake से build करें और make install से system पर install करें।

Distribution के अनुसार installation process

  • Ubuntu / Debian: snap या apt के जरिए install किया जा सकता है। PPA के जरिए nvtop का नवीनतम version install किया जा सकता है।
  • Fedora / Red Hat / CentOS: AppImage या dnf के जरिए install किया जा सकता है।
  • OpenSUSE: zypper के जरिए install किया जा सकता है।
  • Arch Linux: pacman के जरिए nvtop install करें।
  • Gentoo: layman और emerge के जरिए nvtop install करें।
  • AppImage: standalone application के रूप में उपलब्ध। execute permission देने के बाद चलाया जा सकता है।
  • Snap: snap install से install करने के बाद process control और GPU जानकारी जांचने के लिए permissions देनी होंगी।
  • Docker: NVIDIA driver और nvidia-docker आवश्यक हैं। docker build और docker run से चलाया जा सकता है।

GN⁺ की राय

  • NVTOP कई GPU vendors को support करता है और Linux आधारित systems पर GPU monitoring के लिए एक शक्तिशाली tool है।
  • यह tool system administrators और developers को real-time में GPU उपयोग की स्थिति समझने का प्रभावी तरीका देता है।
  • GPU monitoring खासकर machine learning, data analysis, game development जैसी GPU-निर्भर workloads में महत्वपूर्ण है।
  • NVTOP जैसी सुविधाएँ देने वाले दूसरे open source projects में gpustat भी शामिल है, और उपयोगकर्ता अपनी ज़रूरत के अनुसार tool चुन सकते हैं।
  • चूँकि यह एक open source project है, community contributions के जरिए इसमें लगातार सुधार और नए features जोड़े जा सकते हैं।

संबंधित पढ़ाई

1 टिप्पणियां

 
GN⁺ 2024-03-14
Hacker News टिप्पणियाँ
  • nvtop या nvidia-smi GPU उपयोग स्थिति का अच्छा ओवरव्यू देते हैं, लेकिन यह पाया गया कि वे वास्तविक जॉब स्पीड को दिखाने के लिए उपयुक्त नहीं हैं। अगर आपकी रुचि AI performance में है, तो individual kernels की profiling के लिए Nsight Compute CLI और macro view के लिए Nsight Systems की सिफारिश की जाती है। अगर आप PyTorch इस्तेमाल करते हैं, तो PyTorch profiler इस्तेमाल करने की सलाह दी जाती है.
  • apt install के काम न करने की समस्या पर नाराज़गी जताई गई। बताया गया कि NVIDIA से जुड़ी installation समस्याएँ अक्सर होती हैं, और इस वजह से Linux दोबारा install करते समय बहुत समय बर्बाद होता है। driver, CUDA, CUDA toolkit, cuDNN जैसी कई layers और version conflicts को भ्रम पैदा करने वाला बताया गया.
  • Nvitop नाम की एक और utility का परिचय दिया गया, जिसे उपयोगकर्ता पसंद करता है.
  • nvtop और bottom को Linux पर पसंदीदा resource monitors बताया गया, और यह साझा किया गया कि nvtop सिर्फ NVIDIA devices ही नहीं बल्कि non-NVIDIA devices पर भी काम करता है.
  • btop को पसंद करने की बात कही गई, क्योंकि यह हाल के versions में सामान्य process monitoring के साथ-साथ GPU monitoring भी करता है.
  • यह कहा गया कि Linux graphics card utilities अब multi-platform support देने लगी हैं, और पहले के driver-specific approach से आगे बढ़ना अच्छी बात है.
  • gpustat नाम की पसंदीदा utility का परिचय दिया गया, और बताया गया कि यह इतनी न्यूनतम जानकारी देती है जिससे समझ आ जाता है कि training में कोई दिक्कत है या सब ठीक चल रहा है.
  • Zenith नाम के अपने प्रोजेक्ट का परिचय दिया गया, जो NVIDIA GPU monitoring के साथ disk, CPU, Top जैसी सुविधाओं को जोड़ता है.
  • Home Assistant इस्तेमाल करना शुरू करने के बाद सभी data sources को integrate करने की इच्छा जताई गई। कहा गया कि data को मनचाहे तरीके से render किया जा सकता है, और sensors2mqtt नाम का एक प्रोजेक्ट मिला है जिसे इस्तेमाल करना चाहेंगे.
  • Nouveau driver के support की इच्छा जताई गई.