Você não diz como está clicando neste arquivo, então vou explicar uma maneira de fazer isso no Gnome da Nautilus. Deveria funcionar em outros casos, acredito.
Primeiro, para obter o Vim (ou qualquer aplicativo) na lista "abrir com outro aplicativo", você precisa criar um arquivo .desktop em ~/.local/share/applications
com uma linha assim: Exec=<command> %f
. Acabei de fazer um chamado vim.desktop com estas linhas:
[Desktop Entry]
Categories=;
Comment=Edit file in Vim
Exec=vim %f
GenericName=Text Editor
Hidden=false
Icon=vim
Name=Vim
Terminal=true
Type=Application
Version=1.0
Isso fez com que "Vim" aparecesse na lista de possíveis aplicativos quando eu clicasse com o botão direito do mouse no Nautilus e abrisse o arquivo como esperado.
Deixe-me saber se há algum problema.