Você pode aumentar a resolução virtual editando /etc/X11/xorg.conf na seção Screen da linha Virtual. Exemplo:
Section "Screen"
Identifier "aticonfig-Screen[0]-0"
Device "aticonfig-Device[0]-0"
Monitor "aticonfig-Monitor[0]-0"
DefaultDepth 24
SubSection "Display"
Viewport 0 0
Depth 24
Virtual 2880 2880
EndSubSection
EndSection
informações úteis na tela virtual neste link
No link diz que fazer o quadrado da tela virtual facilita a rotação. Ao configurá-lo para 2880 x 2880, consegui obter os dois monitores de 1440 x 900 em modo retrato usando o sistema > Preferências > Ferramenta de monitores. Infelizmente, depois de entrar neste modo, reduzir o mínimo, como 1800 x 1440 (assumindo lado a lado, retrato 900 x 1440) e reiniciar resultou em uma mensagem de erro. A ordem inversa das dimensões, 1440 x 1800, também resultou em um erro. Deixá-lo em 2880 x 2880 parece um desperdício, mas pelo menos funciona.