Come lavora la GPU su Linux: nvtop vi permette di scoprirlo

Chi è abituato a utilizzare la finestra del terminale Linux conosce certamente lo strumento top: fornisce una vista in tempo reale sulle attività di sistema, inclusi i processi in esecuzione, l’utilizzo della CPU, della memoria e altre risorse. È utile per monitorare le prestazioni del sistema e individuare eventuali processi che potrebbero comportarsi in maniera anomala.

Oltre a top c’è anche l’utilità htop che offre alcune interessanti migliorie e maggiore flessibilità. A partire dall’interfaccia grafica, più colorata e intuitiva, che consente di riconoscere più facilmente i processi e le relative informazioni.

Monitorare la GPU su Linux è sempre più cruciale: come farlo con nvtop

Con l’avvento di modelli generativi sempre più complessi e potenti, si fa sempre più affidamento sulle GPU anche per la gestione della fase di inferenza.

La fase di inferenza è quella che interessa maggiormente agli utenti finali che si servono di modelli e li implementano nelle app basate sull’intelligenza artificiale. È il processo attraverso il quale un modello addestrato è utilizzato per fare predizioni, generare nuovi dati o compiere decisioni su nuovi input. Durante questa fase, il modello utilizza le informazioni acquisite durante l’addestramento per elaborare nuove informazioni e produrre output il più possibile pertinenti e argomentati.

Cos’è e come funziona l’utilità nvtop

nvtop, acronimo di Neat Videocard TOP, si ispira al funzionamento delle utilità di sistema citate in apertura ma è progettato per monitorare le GPU e gli acceleratori.

Al momento, nvtop supporta AMD (driver amdgpu per Linux), Apple (supporto limitato ai SoC M1 e M2), Huawei (Ascend), Intel (driver i915 per Linux), NVIDIA (driver proprietari per Linux) e Qualcomm Adreno (driver MSM per Linux). Va comunque tenuto in considerazione che, ad esempio, per le GPU AMD è necessario un kernel Linux con una versione pari o superiore alla 5.14, mentre per le GPU Intel è richiesto un kernel pari o superiore alla release 5.19. Per le GPU NVIDIA, nvtop utilizza la libreria NVML (NVIDIA Management Library), inclusa con i driver ufficiali.

L’interfaccia di nvtop fornisce un’ampia gamma di opzioni e comandi interattivi per monitorare il comportamento della GPU. Le funzionalità di configurazione integrate consentono di personalizzare l’interfaccia secondo le proprie esigenze premendo semplicemente F2 e selezionando le opzioni preferite. È possibile salvare le preferenze impostate premendo F12, in modo che vengano caricate automaticamente alla successiva esecuzione di nvtop.

Come usare nvtop sulle principali distribuzioni Linux

nvtop può essere installato su diverse distribuzioni Linux utilizzando pacchetti precompilati, repository specifici o manualmente compilando il codice sorgente. Il modo più semplice per usare nvtop su Debian, Ubuntu e distribuzioni derivate consiste nel digitare il comando che segue:

sudo apt install nvtop

Consultando la pagina GitHub del progetto, tuttavia, si possono trovare le istruzioni di installazione per le altre distribuzioni come Fedora, Red Hat, CentOS, OpenSUSE e Arch Linux. Inoltre, sono disponibili alternative come AppImage, Snap e Docker per semplificare il processo di installazione e distribuzione.

nvtop è distribuito sotto licenza GPLv3, garantendo agli utenti la libertà di utilizzare, modificare e distribuire il software in conformità con le direttive della Free Software Foundation.

Credit immagine in apertura: Copilot Designer.