Geralmente é algo assim.
./configure
Isto (quando executado no diretório seu código-fonte é), cria um Makefile com as regras que serão usadas para construir o programa. É aqui que você pode mudar o comportamento da compilação (isto é, compilar o programa com opções que não são padrão).
make
Isto constrói o programa com as regras especificadas no Makefile.
make install
Isso geralmente é executado como root (ou usando sudo make install
para evitar o login como root) e instala o programa compilado em seu sistema.
[EDITAR]
Como Mihai Limbasan observou, normalmente você pode passar a opção --prefix para ./configure para determinar onde o programa será instalado. Se você tiver as permissões necessárias no diretório de destino, nem precisará executar make install usando o sudo (ou como root).
Por exemplo, se você fizer
--prefix=/home/username/whatever/directory/here
você deve conseguir instalar este programa sem privilégios de root. Devo salientar que isso restringirá o uso do programa àqueles com privilégios de execução no diretório que você especificou. Portanto, se você precisar de uma instalação ampla, provavelmente deverá usar a solução padrão (executando o make install com privilégios de root).
Mihai também lembrou que você pode remover o programa instalado executando
make uninstall
(novamente, como root ou usando o sudo se você usou as opções padrão no configure), mas isso requer que você mantenha o diretório de compilação no lugar depois de instalar o programa. Ou seja, não é prática recomendada remover o diretório de origem de um programa que você compilou, para que você possa removê-lo posteriormente.