VMware descreve isso com muita clareza , como você notou.
Baixe o novo ISO contendo a distribuição ESXi 5.1. Queime em CD. Insira em seu servidor desligado, inicialize e execute o instalador.
Este método preserva o datastore VMFS existente e funciona sem problemas.
Tentar desativar sua VM, exportar e todas as outras coisas introduzem muito mais pontos de falha em potencial do que apenas executar o processo de instalação local suportado .
Após a atualização, você desejará atualizar a versão do hardware da máquina virtual e as ferramentas convidadas do VMWare para cada VM.