encontrou uma solução (não tenho certeza se a melhor opção): adicionar amd_iommu=on iommu=pt
antes de quiet splash
em grub
permite que o live boot e o ubuntu sejam instalados. uma vez que a instalação foi feita eu tive que repetir o processo para inicializar no novo sistema operacional, e mais uma vez para torná-lo permanente editando /etc/default/grub