Se você fizer o processo normal de criação:
./configure; make; make install
ele instalará o novo binário vim no seu diretório /usr/local/bin . Você pode então executá-lo diretamente com /usr/local/bin/vim ou criar um alias no seu .bashrc como:
alias vim="/usr/local/bin/vim"
Então, quando você digitar vim no prompt de comando, ele executará a nova versão do vim. A versão antiga permanecerá em /usr/bin/vim . Eu não recomendaria excluí-lo, pois você pode precisar executá-lo no futuro.