Acho que você está tentando inicializar o DVD de instalação de 64 bits com o IOMMU desativado no BIOS. Qualquer um:
- Inicialize o DVD de instalação de 32 bits
- Habilite o IOMMU pela duração da instalação, depois inicialize o kernel instalado com o parâmetro 'iommu = soft' (você pode alterar isso no grub).