OK, eu fiz isso sozinho.
Eu baixei o NVidia-CUDA-Toolkit atual. Então eu desliguei o servidor X com:
serviço sudo gdm stop
Então uma tela preta apareceu onde eu pressionei:
Ctrl + Alt + F1
Eu acabei de fazer login na minha conta, enviei um cd para a pasta em que o kit de ferramentas estava e o executei:
sudo sh "nome do kit de ferramentas" .run
Após a instalação, reiniciei com
sudo reboot
Espero que isso ajude alguns outros usuários inexperientes do Ubuntu a executar o OpenCL.