Eu acredito que seja assim ...
xrandr --output VGA-1 --size 1280x960
Atualizar
Se isso não ajudar, é uma postagem que pode ser feita.
Aqui está a saída de xrandr
:
$ xrandr
Screen 0: minimum 320 x 200, current 1024 x 768, maximum 8192 x 8192
VGA1 connected 1024x768+0+0 (normal left inverted right x axis y axis) 0mm x 0mm
1024x768 60.0*
800x600 60.3 56.2
848x480 60.0
640x480 59.9
1280x960_60.00 59.9
960p 60.0
1280x1024_60_new (0xc9) 138.5MHz
h: width 1280 start 1368 end 1504 total 1728 skew 0 clock 80.2KHz
v: height 1024 start 1025 end 1028 total 1069 clock 75.0Hz
Você pode fazer isso no compiz, eu acho.
Em Opções gerais / Configurações de exibição / Saídas
Você pode alterar as configurações atuais lá em Editar.