Eu estava tendo esse mesmo problema no outro dia com a minha TV LCD. Ele overscans com a configuração de resolução padrão. Eu tive que criar uma configuração personalizada na resolução nativa que não parece ser reportada com uma instalação mínima (embora a resolução esteja listada em xrandr no live cd 12.04).
De qualquer forma, você está no caminho certo. Obtendo a linha de modo personalizado que funciona é a parte mais difícil. Eu encontrei uma configuração de resolução que funcionou no live cd e copiei a modeline a partir disso. Uma vez que você tenha o modeline você o adiciona ao xrandr usando o flag --newmode como você fez. Mais dois comandos e você será definido.
Todas as informações podem ser encontradas em:
link
Primeiro, você precisa identificar a porta de exibição que deseja usar. Baseado no seu post original, eu acho que isso é HDMI-0. Você também precisará do nome do modo que está tentando adicionar à porta. O nome é a primeira coluna de números listados sob cada porta em xrandr (ou seja, 1024x768 ou 1360x768 etc.). Se você criou o modeline, então é a parte entre as aspas no comando --newmode ("1824x1036_60.00" no seu caso).
Agora que você tem essa informação, você pode adicionar o novo modo à porta que quiser com ...
$ xrandr --addmode HDMI-0 1824x1036_60.00
Agora você deve ver esse novo modo listado no xrandr sob a porta HDMI-0.
Você pode mudar para isso com isso ...
$ xrandr --output HDMI-0 --mode 1824x1036_60.00
As configurações xrandr (incluindo modos adicionados) são perdidas no desligamento / reinício. Há algumas maneiras diferentes de fazer isso. Eu coloco os três comandos em um script e tenho esse script chamado quando o lightdm começa.