Eu usei o gtf para fazer uma modeline e adicioná-lo ao xorg.conf, reiniciei e não funcionou, mas havia uma nova entrada no monitor: 1680x1050. Eu mudei para isso, salvei, editei xorg.conf e grub.conf alterando a modeline no xorg.conf, e GRUB_GFXPAYLOAD_KEEPRES = true ou algo assim e mudei o grub res e agora funciona!
EDIT: As fontes ainda eram gigantescas, então acrescentei: Opção "UseEdidDpi" "FALSE" Opção "DPI" "96 x 96" para o meu xorg.conf. Eu realmente não me importei com a tela de login, então não me preocupei com isso.