Isso soa como o recurso modeline
(veja a ajuda on-line). No gitconfig você poderia ter uma modeline como a seguinte, perto do começo ou fim do arquivo:
# vi: ft=gitconfig
Isso requer que as modelines sejam ativadas e, como podem ser um risco à segurança, elas são desativadas por padrão em muitos sistemas.
Outra abordagem que pode ser um pouco mais trabalhosa é fazer com que um arquivo .vim
contenha
au BufRead,BufNewFile */gitconfig setfiletype gitconfig
e solte-o em ~/.vim/ftdetect
em todos os seus sistemas.