A maneira de contornar este problema é renomear o arquivo .iso do Debian para um arquivo .img, e então gravar a imagem para o USB com o Win32DiskImager (eu usei 0.9.5 e funcionou bem). A instalação funcionará então.
Uma pergunta semelhante foi feita, mas foi encerrada.
Se você instalar o Debian 7.7 em um USB no Windows com o unetbootin e tentar instalar o Debian a partir desse USB, ele irá reclamar que ele 'não pode montar o CDROM' e a instalação não irá adiante.
Você pode montar manualmente em uma janela de shell (Ctrl + Fnumber)
mount -t vfat /dev/sdb /cdrom
Mas a opção de warsong funciona bem. Parece um bug do UNetBootin-Win u_u
Recebi a mesma mensagem de erro ao inicializar a partir de uma segunda partição do meu pendrive. A solução Zorbax também ajuda aqui, mas você precisa escolher a partição correta. Para o meu caso foi
mount -t vfat /dev/sdb2 /cdrom
De acordo com FAQ do Debian
This might be a little problem on older versions of Windows, as many Windows image-burning programs use their own formats for CD images.
Win32DiskImager is particularly good for pre-release testing and new releases, when the standard tools like Unetbootin might not be ready
Talvez haja um problema com o unetbootin em alguma distro do Windows. Você pode usar uma alternativa como: win32diskimager ou Refus recomendado pelo Ubuntu, ou ImgBurn ...
Para instalar o Debian 9.5.0 no zero, eu tive que habilitar o IOMMU no BIOS da minha placa-mãe (para o teclado e o mouse funcionarem). Depois disso, coloquei o Debian DVD 1 ISO no meu pendrive com a ferramenta Rufus usando o modo "dd". Para fazer o instalador gráfico ler os pacotes do meu pendrive como se fosse um CD-ROM, eu tive que conectar o pendrive em uma porta USB 2.0 disponível no painel frontal da minha máquina. E para terminar a instalação, eu disse "não" para "forçar UEFI" opção.
(Ainda não experimentei problemas de instalação bare metal com o Windows através do USB 3)
Boa sorte!
Para o QEMU (se um switch como "-cdrom installer.iso" for usado):
mount /dev/vdb2 /cdrom
Tags debian debian-installer