Você não especificou o tamanho da RAM de inicialização do convidado com a opção -m, portanto, o tamanho da RAM padrão é 128M, o que é insuficiente. Para o ubuntu-16.04.2-desktop-amd64.iso, o tamanho mínimo que funciona é -m 277. Para ser seguro, adicione -m 512 às opções do qemu-system-x86_64, ele deve resolver esse problema.