É claro que é possível executar uma máquina virtual em um servidor remoto sem a necessidade de instalar uma GUI para controlar e gerenciar a VM. Você pode até mesmo criar uma máquina virtual na área de trabalho do Windows para exportá-la para o servidor, executá-la lá e usar o Windows para exibir a VM. No entanto, você precisará de uma solução de plataforma cruzada que será executada no Windows e no Ubuntu.
Caso você queira testar a Caixa Virtual , você precisará da fonte fechada (PUEL), mas da versão gratuita disponível no Oracle (veja esta pergunta sobre como instalar para o Ubuntu e o manual do usuário da instalação no Windows ) para obter suporte para a área de trabalho remota da Virtual Box recurso de exibição.
Há um bom tutorial no manual do usuário do Virtual Box em como configurar e como executar caixa virtual no modo "headless" em um servidor para usar a exibição de uma máquina remota via VRDP.