Eu consegui resolver o problema graças a essa pergunta instalador do Ubuntu trava no início
Para iniciar o instalador corretamente, cliquei em 'e' enquanto estava na página do grub e editei o comando excluindo "quiet splash" e adicionando "nomodeset".
Pena que depois eu doscovered não há suporte ainda para o AMDGPU-PRO no Ubuntu 16.04.3 link