Esta resposta descreve realmente como aumentar a resolução da área de trabalho inteira além da resolução física e não apenas de uma janela específica:
Viewport de panning
Se você deseja ter uma janela de visualização panorâmica, ou seja, uma tela virtual maior do que a tela física que se move quando você move o mouse para a borda, especifique a resolução física desejada com -mode e o tamanho da tela virtual com a área --fb e pan (normalmente igual ao tamanho da tela virtual) com --panning. Por exemplo,
xrandr --output VGA1 --rate 60 --mode 800x600 --fb 1280x1024 --panning 1280x1024*
em link
HTH