Se você tiver o cuda instalado, poderá obter a versão do nome do diretório ou do nome no arquivo uninstall.pl
ls /usr/local/cuda*
ls /usr/local/cuda*/bin/uninstall*
Produzirá "/usr/local/cuda-XY/bin/uninstall_cuda_X.Y.pl", onde o XY sobre o qual você está perguntando está no diretório cuda e no script de desinstalação (uninstall_cuda.XYpl).
Ou você também pode
nvcc --version
Independentemente da versão, você precisa primeiro desinstalá-la como indicado antes de instalar uma nova versão.