Eu gasto algum tempo trabalhando em um computador diferente, adiando a troca de drivers da GPU. Então me deparei com este post:
link
Limpando cuda e excluindo quaisquer arquivos cuda deixados em / usr / local / cuda, / usr / local / cuda-7-5 etc e, em seguida, reinstalar o cuda-8.0 me deixou com o erro:
Failed to initialize NVML: Driver/library version mismatch
Isso me pareceu necessário para desinstalar o driver atual e instalar o driver correto. No entanto, como no link, apenas usando o comando 'nvidia-smi' também deu esse erro. Então, assim como no link tentei reiniciar meu computador (algo que eu deveria fazer com mais freqüência) e que funcionou!
Não sei se o reinício teria resolvido o meu problema anteriormente. Mas foi definitivamente parte da solução e não precisei fazer nada manualmente para os drivers.