O servidor XVNC normal não possui uma opção de dimensionamento ou redução, afaict. x11vnc tem isso, mas desde que está ligado à resolução da tela física faz muito sentido nesse contexto.
Uma tela completamente virtual pode ser configurada para qualquer resolução que você goste, então os desenvolvedores talvez não pensassem que tal recurso faria muito sentido.
O que você pode tentar fazer é definir um valor de DPI menor para as fontes, mas isso não reduz os ícones e outras coisas. Talvez pelo menos te ajude.
Você não pode convencer seu chefe a deixar você usar vinagre ou algo assim? Deve estar nos repositórios padrão para a maioria das distros.