Você pode usar ssh com o encaminhamento do X ( ssh -l remoteusername -X remotehost ), isso permitirá que você execute aplicativos individuais na máquina remota, não no sistema X-windows inteiro.
Veja esta página e esta solução AskUbuntu para detalhes.