Para documentação, o Fedora tem um bom conhecimento básico: link
Agora, com relação ao seu problema, tive o mesmo problema e, para evitar isso, executei o seguinte como root:
[root@testmachine ~]# xrandr
Screen 0: minimum 64 x 64, current 1600 x 1200, maximum 32000 x 32000
VBOX0 connected 1600x1200+0+0 0mm x 0mm
1600x1200 60.0*+
1440x1050 60.0
1280x960 60.0
1024x768 60.0
800x600 60.0
640x480 60.0
Isso fornecerá todos os modos disponíveis. Para adicionar um novo, faça o seguinte:
[root@testmachine ~]# cvt 1920 1080
# 1920x1080 59.96 Hz (CVT 2.07M9) hsync: 67.16 kHz; pclk: 173.00 MHz
Modeline "1920x1080_60.00" 173.00 1920 2048 2248 2576 1080 1083 1088 1120 -hsync +vsync
Vamos criar um novo modo para XRAND e associá-lo à tela.
xrandr --newmode "1920x1080_60.00" 173.00 1920 2048 2248 2576 1080 1083 1088 1120 -hsync +vsync
xrandr --addmode VBOX0 1920x1080_60.00
E agora é hora de ativar a saída
xrandr --output VBOX0 --mode 1920x1080_60.00
o valor VBOX0 que você obtém do primeiro comando xrandr para ver seu ID de exibição. Altere o valor cvt e atualize os comandos de acordo para corresponder à sua saída cvt.