Depois de adicionar o seguinte ao arquivo theanorc:
[cuda]
root = /usr/local/cuda-7.0
CUDA começou a funcionar conforme o esperado. As amostras CUDA são executadas corretamente e os testes Theano também são executados conforme esperado, usando a GPU.
O nvcc -V também funciona e produz o seguinte:
Nvcc: NVIDIA (R) Cuda compiler driver
Copyright (c) 2005-2015 NVIDIA Corporation
Built on Mon_Feb_16_22:59:02_CST_2015
Cuda compilation tools, release 7.0, V7.0.27
Isso me deixou perplexo por um tempo. Observe que o V deve estar em letras maiúsculas. Eu estava usando nvcc -v, que produz um erro.