Se o seu makefile suportar, make uninstall seria o mais fácil. Caso contrário, você pode simular o processo de instalação com make -n install , que mostrará o que foi realmente feito pelo comando install (mas não o fará novamente).
Eu quero desinstalar o mutt que eu instalei da seguinte maneira.
$ cd mutt-1.5.21
$ patch -p1 < ../patch-1.5.21.sidebar.txt
$ ./configure
$ make
$ make install
Se o seu makefile suportar, make uninstall seria o mais fácil. Caso contrário, você pode simular o processo de instalação com make -n install , que mostrará o que foi realmente feito pelo comando install (mas não o fará novamente).