Eu instalei recentemente o Ubuntu 18.04 e essa resolução foi bloqueada em 600x480 ou algo parecido. Eu encontrei uma maneira de aumentá-lo para 1024x768, mas parece que é o máximo que vai.
Eu mudei o GFXMode para fazer isso.
Tentar fazer uma resolução personalizada a partir do xrandr não funciona, porque no lugar do VGA-O, ele diz o padrão para mim.
Não sei mais o que fazer. O driver da Nvidia é 390.
~$ xrandr
Screen 0: minimum 8 x 8, current 2881 x 1280, maximum 16384 x 16384
VGA-0 connected 1600x1280+1281+0 (normal left inverted right x axis y axis) 376mm x 301mm