参考文章链接：https://blog.csdn.net/weixin_44966641/article/details/121228579

简介

nvidia smi（也称为NVSMI）为来自 Fermi 和更高体系结构系列的 nvidia Tesla、Quadro、GRID 和 GeForce 设备提供监控和管理功能。GeForce Titan系列设备支持大多数功能，为GeForce品牌的其余部分提供的信息非常有限。NVSMI是一种跨平台工具，支持所有标准NVIDIA驱动程序支持的Linux发行版，以及从Windows Server 2008 R2开始的64位版本的Windows。

详细的信息可以去手册中查找：man nvidia-smi。

nvidia-smi 命令

直接在命令行输入nvidia-smi，得到下图结果

蓝框指出了在输出本身中各个位置的对应含义，红框指出了输出各个部分的含义。

Fan：从0到100%之间变动，这个速度是计算机期望的风扇转速，实际情况下如果风扇堵转，可能打不到显示的转速。
Perf：是性能状态，从P0到P12，P0表示最大性能，P12表示状态最小性能。
Persistence-M：是持续模式的状态，持续模式虽然耗能大，但是在新的GPU应用启动时，花费的时间更少，这里显示的是off的状态。
Disp.A：Display Active，表示GPU的显示是否初始化。
Compute M：是计算模式。
Volatile Uncorr. ECC：是否开启 ECC 纠错。
type：进程类型。C 表示计算进程，G 表示图形进程，C+G 表示都有。

nvidia-smi 命令的参数

一些常用的参数，查看状态

nvidia-smi -L

-L 参数显示连接到系统的 GPU 列表。

nvidia-smi -L
# 输出：
GPU 0: NVIDIA GeForce RTX 3060 (UUID: GPU-55275dff-****-****-****-6408855fced9)
GPU 1: NVIDIA GeForce RTX 3060 (UUID: GPU-0a1e7f37-****-****-****-df9a8bce6d6b)
GPU 2: NVIDIA GeForce RTX 3060 (UUID: GPU-38e2771e-****-****-****-d5cbb85c58d8)
GPU 3: NVIDIA GeForce RTX 3060 (UUID: GPU-8b45b004-****-****-****-46c05975a9f0)

GPU UUID：此值是GPU的全球唯一不可变字母数字标识符。它与主板上的物理标签无关。

nvidia-smi -i

-i 参数指定某个 GPU，多用于查看 GPU 信息时指定其中一个 GPU。

nvidia-smi -q

-q 参数查看 GPU 的全部信息。可通过 -i 参数指定查看某个 GPU 的参数