Eu não sou um especialista, e minha resposta deve estar na área de comentários, mas não posso postar lá desde que sou convidado. Eu sugiro tentar o iso do servidor, pois ele usa um instalador baseado em texto, deve evitar quaisquer problemas gráficos, você pode instalar a experiência de desktop padrão para ele, uma vez que você tenha instalado e funcionando.
2 Coisas a ter em mente ao instalar a edição do servidor para uso em desktop são. 1 quando a opção para instalar pacotes aparecer durante a instalação use a seta para baixo para ir para "Seleção manual do pacote" NÃO SELECIONE A OPÇÃO, apenas pressione Enter para continuar com a instalação, 2 quando tiver instalado o SO e o boot você só verá uma tela de terminal, você precisará digitar seu "username" e depois "password", então digite "sudo apt-get install ubuntu-desktop" que irá instalar sua interface de desktop normal encontrada na versão desktop do ubuntu Alternativamente, se necessário, você pode instalar um ambiente de trabalho diferente que seja menos exigente, se necessário, como "xubuntu-desktop".
Não sei se isso ajudará a resolver seu problema, mas é onde eu gostaria de começar.