Na maioria dos casos (todos, exceto um que mencionarei em breve), o framework RandR fala com o monitor. A razão para isso é ter o monitor sempre legível e, assim, a maioria das ferramentas trabalha ativamente contra o que você está tentando fazer.
A exceção são os framebuffers não associados a um monitor real, incluindo Xvfb, Xvnc, Xnest e o dispositivo virtual mal documentado e possivelmente sem suporte que você encontrou. (Eu suspeito que teve uma mudança de nome ou foi removido.)
Agora, como você diz que não usa a GUI localmente, posso sugerir que, como você não está usando o monitor, talvez não seja necessária uma placa de vídeo. neste answer Eu documentei uma versão simplificada da minha configuração e, com a capacidade de redimensionamento do tigervnc, a área de trabalho é sempre do tamanho certo. Eu tenho usado essa configuração desde o início dos anos noventa, mas agora eu não especifico uma resolução, apenas redimensiono.