Parece que você precisa verificar drivers adicionais e usar drivers proprietários. A razão é que o Ubuntu não está rodando na sua placa gráfica nativa. Primeiro você precisa descobrir qual placa gráfica você tem.
Abra o "Terminal" e digite: lspci | grep VGA
Uma vez que você saiba qual placa de vídeo você tem, procure por suporte Linux para esse driver e baixe seu suporte (geralmente deve haver um pacote que encontrará seu driver e atualizará seu sistema quando você instalar o driver). Isso pode ser um negócio arriscado porque a empresa da qual você faz o download do suporte pode não ser atualizada, podendo causar problemas no futuro.
Depois de fazer sua instalação, reinicie o computador. Você deve ser capaz de sair do modo 2D e usar o Ubuntu como fez antes de instalá-lo. Agora sua resolução deve funcionar.