Monitorando a memória de E / S da GPU

Question

Existe alguma maneira de monitorar a E / S de memória GPU do shell, com placas gráficas Nvidia usadas com CUDA?

Eu uso nvidia-smi para ver a utilização atual da memória, mas prefiro ver os deltas (por exemplo, 10 MB / s) e, idealmente, divididos por processos (como iotop para E / S de disco) .

nvidia-smi :

iotop:

    

Answer 1

nvprof pode imprimir boas estatísticas se você colocar as opções apropriadas. Infelizmente não tenho nenhum exemplo de saída, mas pode ser usado assim:

nvprof \
    --devices 0 \
    --metrics l1_cache_global_hit_rate \
    --metrics shared_load_transactions \
    ./your_app