Eu encontrei a solução: ~/.Xauthority
foi bloqueado. Eu resolvi isso excluindo via SSH esses dois arquivos:
~/.Xauthority-c
~/.Xauthority-l
Após a reinicialização, o vino-server começou a funcionar novamente, conforme mostrado pelo comando ps aux | grep "vino"