Eu tenho um cliente com uma tela muito ampla (1366 x 768) e posso reproduzir o sintoma usando o Virtual PC porque posso redimensionar a janela do PC virtual para obter algo próximo a essa resolução.
Mas estou tentando definir as mesmas condições no meu PC de desenvolvimento e não ter sorte. Eu só recebo uma proporção definida ou predefinida.
Entech Taiwan faz um produto, PowerStrip (sharewhare), que faz isso. Ou então você pode tentar editar manualmente seu registro, como estas instruções show. (Eu não tentei isso pessoalmente, então onde sabe se vai funcionar).
Embora você possa definir a janela do seu aplicativo para que ele sempre abra a 1366x768 para testes.
O rdesktop permite especificar a resolução quando você se conecta por meio do RDP:
'rdesktop -g 1336x768 myhost'
Por isso, se a sua aplicação funciona através do ambiente de trabalho remoto, pode tentar.
Existe uma versão para o Win32
Você pode fazer isso indo em Propriedades de Vídeo, Avançado, Guia Monitor e desmarque a opção "Ocultar modos que este monitor não pode exibir". Isso permitirá que você escolha algumas outras opções para a resolução.