Bem, o erro parece estar bem claro, você precisa instalar o cuda.
sudo apt install nvidia-cuda-dev
Eu não recomendaria o uso de CUDA, porque 1) CUDA é uma porcaria , 2) Você não podia rodar o ANN que você fez na maioria das máquinas, exceto aquelas com placas NVidia, por razões óbvias.
Você pode compilar sem o CUDA removendo o comentário no Makefile.config da linha
CPU_ONLY := 1