Você precisará de algo assim em seu arquivo .xmodmaprc:
keycode 139 = F13
Em seguida, a chave se torna mapeável da maneira usual. A partir do seu arquivo .vimrc, você pode criar um mapeamento como este:
map <F13> YOUR_COMMAND_HERE
O acima funciona para ligações no nível X e funcionará para o gvim, no entanto os códigos-chave nos programas de terminal são um pouco diferentes. Você pode precisar informar ao vim sobre seu novo código de teclas para que ele saiba que a coisa louca enviada pelo terminal é um F13. Você pode fazer isso adicionando uma linha acima do seu mapa de chaves (veja acima) assim:
set <F13>=^[[25~
É claro que a sequência de códigos malucos que você precisa lá varia dependendo da tecla que você está ligando e do seu teclado e seu terminal, etc., mas é muito fácil de preencher. Usando o terminal você costuma usar abrir o .vimrc com vim. Preencha a primeira parte da linha set <F13>=
e depois ainda no modo de inserção pressione CTRL + v para inserir um código de tecla visual, depois toque na sua nova tecla F que você está tentando ligar. Voilà, keycode encontrou um inserido.