Primeiro, execute o comando
xrandr|grep ' connected'
você veria algo como
VGA1 connected 1280x1024+0+0 (normal left inverted right x axis y axis) 376mm x 301mm
Dependendo da saída acima, você deve observar o nome da 1. tela (ou seja, VGA1 no exemplo acima). Agora execute o comando
xrandr --output VGA1 --mode 1280x1024
Substitua VGA1
por um em sua saída.
EDIT: Para um computador com tela única, os comandos acima podem ser substituídos por um comando abaixo.
xrandr --output $(xrandr|grep ' connected'|awk '{print $1}') --mode 1280x1024