Já tive esse trabalho antes, mas tenho certeza de que há outros que não recomendariam isso.
Estamos executando o ESXi e não temos servidores que sejam necessariamente 24/7 essenciais. Encerrei a VM e, em seguida, usando o navegador de armazenamento em disco, copiei o diretório para um NAS de armazenamento e 7zip o diretório em um grande arquivo 7z (e verifiquei que não há erros). Isso leva muito tempo para copiar, mas para nós funciona. Se algo der errado, posso copiar a VM de volta para o servidor ESXi e apontar uma nova configuração de VM para ativá-la novamente. Esteja ciente de que você pode ter que ter cuidado com coisas como endereços MAC e tal ser "duplicado" se você estiver restaurando; nós fazemos isso principalmente no caso de uma falha do servidor da VM. Use as somas MD5 para verificar seu arquivo de backup grande ao transferi-lo para garantir que ele não esteja corrompido no armazenamento ou na transferência.
Outra opção é tratar sua VM como um servidor regular e fazer backups completos para seu servidor de backup. Se houver uma falha, instale uma nova VM e faça uma restauração "bare-metal" no computador virtual. Isso evita que você tenha um armazenamento especial reservado apenas para as máquinas virtuais, que podem facilmente aumentar para vários gigabytes cada e quanto maior o arquivo, maior a chance de ele ser corrompido. Esta é provavelmente uma solução melhor em muitos casos, pois elimina variáveis com versão do VMWare (seu backup é uma versão, você atualiza o VMWare ou muda alguma coisa e esquece, de repente seus backups estão estragados ...)
Sua última opção provavelmente seria obter soluções de backup específicas do VMWare com reconhecimento de ESX. Caros como todos os itens, mas eles estão cientes dos problemas envolvidos no bloqueio de arquivos e no acesso aos discos virtuais, e você não precisará encerrar as VMs para fazer o backup. A tentativa de qualquer cópia ou modificação durante a execução resulta em Bad Things (tm).
Eu li que há problemas com o uso de uma VM que tem instantâneos e apenas copia arquivos como um "Backup" (minha primeira sugestão), portanto não uso instantâneos no VMWare. Eu não posso confirmar os problemas embora.