A melhor resposta que encontrei até agora é copiar o arquivo vimrc do Cygwin VIM:
cp /usr/share/vim/vim*/vimrc_example.vim ~/.vimrc
Soluciona todos os problemas estranhos de mapa de teclado que eu estava vendo e adiciona alguns extras, como o realce de sintaxe.