De onde você está executando o comando mkisofs? Você já tentou especificar caminhos absolutos? por exemplo:
mkisofs -o '/foo/test.iso' -b '/mnt/vmtest/isolinux/isolinux.bin' -c '/mnt/vmtest/isolinux/boot.cat' -no-emul-boot -boot-load-size 4 -boot-info-table /mnt/vmtest