Linux-GPU-Überwachung

Dieses Tool bietet Linux-spezifische GPU-Auslastungsüberwachung mit pro-GPU-Granularität. Es richtet sich an Systemadministratoren, DevOps-Ingenieure, ML-Ingenieure und Leistungsanalysten, die konsistente Sichtbarkeit von GPU-Workloads, Speicherdruck, Temperaturen und Leistungsaufnahme benötigen. Durch das Sammeln von Metriken über Standard-Schnittstellen vermeidet es Vendor-Lock-in und ermöglicht Vergleiche zwischen Anbietern sowie Kapazitätsplanung.
Konzeptionell führt das Tool einen konfigurierbaren Sampling-Lauf aus, der GPU-Treiber in festen Abständen abfragt und zeitgestempelte Datensätze ausgibt. Es unterstützt NVIDIA über nvidia-smi und AMD über ROCm, mit optionalen Fallbacks auf generische /proc-Daten, wenn verfügbar. Ausgaben sind für die Aufnahme in Datenpipelines, Dashboards oder Alarmregeln konzipiert.
Der einzigartige Wert liegt in seiner Portabilität, der strikten pro-GPU-Berichterstattung und einfachen Exportformaten. Es liefert konsistente Einheiten (Prozentsatz, MB/GB, Celsius, Watt), geht mit Datenlücken um und lässt sich in bestehende Monitoring-Stapel integrieren. Anwendungsfälle umfassen Training-Queue-Management, Bulk-Job-Optimierung und proaktive Thermalanalysen/Anomalie-Erkennung in geteilten Workstations oder Rechenzentren.
Kernfunktionen sind Multi-GPU-Unterstützung, konfigurierbares Sampling, pro-GPU-Auslastung/Speicher/Temperatur/Leistung, ISO-8601-Zeitstempel, JSON/CSV-Ausgaben und optionale Aggregationen. Typische Arbeitsabläufe umfassen Baseline-Charakterisierung, Schwellenwert-Feinabstimmung und Export zu Dashboards für SLA- und Kapazitätsplanung.