Não especifique um tipo de sistema de arquivos; o mount vai descobrir (corretamente).
E se você estiver tentando instalar o Windows em uma máquina virtual, não precisará (e nem deverá) montar a imagem. Basta fornecer o caminho para o ISO ao configurar a VM no virt-manager.