O.K, eis porque o problema ocorre:
É porque a Neovim fornece a guicursor
opção que deve ser definido somente ao usar um terminal gráfico dentro de X11
que o suporte. Em um TERM=linux
tty, a opção não é suportada.
Eu consegui isolar esse problema quando lancei o Vim em vez do Neovim. e porque o Vim não oferece essa opção eu não experimentei. O que torna difícil isolar é o fato de que continua mesmo depois que você sai do Neovim, então isso me fez pensar que isso é um problema geral.