htopのnvidia-smi版的なやつ nvtop
いい感じになるのでオススメ

$ git clone https://github.com/Syllo/nvtop.git
$ cd nvtop
$ cmake -DCMAKE_INSTALL_PREFIX=$HOME/local
$ make
$ make install

その後.zshrc等に

export PATH=$PATH:$HOME/local/bin

を書いて反映させる