Olhando para este artigo VMware KB parece que deve ser uma unidade USB formatada em FAT 16
The USB key or disk device media is formatted with a FAT16 partition and is of maximum size 2GB
Atualização: Olhando para esta postagem no blog , a unidade precisa ser FAT16, o que faria sentido para mim, já que a VMware tornou o ESXi tão pequeno quanto possível, o que significaria não incluir coisas desnecessárias no kernel, como drivers de sistema de arquivos.