Use o SSH com o GNU Screen.
No servidor, verifique se o SSH está configurado e, no cliente, use o comando SSH integrado (Unix ou Linux) ou PuTTY (MS-Windows). O GNU Screen permitirá que você mantenha várias sessões em execução sem exigir que você mantenha sua sessão SSH conectada.
PuTTY (gratuito e de código aberto)
link
Tela GNU (livre e de código aberto)
link
Mas se você tiver uma GUI em execução no seu servidor sem cabeçalho, pode haver opções de configuração para o software do servidor VNC que permitirá usar o VNC somente com uma janela de aplicativo específica. Eu sei que o UltraVNC pode fazer isso.
UltraVNC (gratuito e de código aberto)
link