Não tenho certeza se existe uma maneira de fazer isso a partir do VNC, mas se você puder usar o ssh no servidor, poderá matar o processo.
Use ps -A para listar todos os processos em execução. Você pode usar grep para remover a lista se souber o que está procurando. Em seguida, use kill <pid> para eliminar o processo ou killall <name> para eliminar todos os processos com esse nome.