As resoluções visíveis nesta lista são aquelas que podem ser manipuladas pelo cartão gráfico e a tela no computador ao qual você se conecta.
O VNC não é um gerenciador de exibição, substituindo o cartão gráfico. Só copiará o que você tem na tela. Como tal, não é possível alterar a resolução de algo correspondente ao computador com o qual você se conecta, se essa resolução não puder ser tratada pelo computador de destino. Tem que ser uma resolução válida para este computador, ou não será exibido.
Editar: Ok, no seu caso, não depende da tela, de fato, já que não há nenhuma. Eu não tenho certeza, então, como é tratado quando não há tela, se todas as resoluções da placa gráfica estão disponíveis, ou quase nenhuma.
Edit2: Tente PowerStrip . Não é garantido que seu cartão gráfico irá aceitá-lo, mas se isso acontecer, ele permitirá que você escolha qualquer resolução.