Eu também passei por lutas semelhantes. Depois de tentar instalar o CUDA 9.0, 9.1, 9.2, descobri que cada kit de ferramentas requer uma versão específica do driver da Nvidia.
O guia de instalação oficial da Nvidia CUDA pede que você desinstale seus drivers da Nvidia. Eu acho que é inevitável se você quiser fazer uma instalação de máquina local, a menos que você use Docker + Nvidia Docker.
Isso permitirá que sua máquina local mantenha os mesmos drivers da Nvidia e você instale seu kit de ferramentas CUDA específico em diferentes imagens de contêiner.
Esta é a abordagem com a qual eu fui.