Eu não acho que o problema tenha algo a ver com a rotação da tela. Se você pensa assim por causa da palavra "invertida" na saída de xrandr
, não se preocupe. Essa palavra está sempre lá, mesmo que sua configuração não esteja invertida.
Acredito que você esteja recebendo esse erro porque seu hardware não suporta o Unity 3D nessa resolução. Se meu palpite estiver correto, você precisará mudar para o Unity 2D, que é menos exigente em termos de gráficos.
Para fazer isso, vá para a tela de login (a tela antes de iniciar a sessão), clique no ícone do Ubuntu à direita do seu nome de usuário e selecione Ubuntu 2D . Em seguida, faça o login e tente definir a resolução desejada.