Você quer ter um sistema atualmente configurado com o Windows 2003 e instalar o ESXi no mesmo hardware enquanto move a configuração atual do W2K3 para uma VM - certo?
Você não poderá fazer isso de uma só vez, mas, como Chris_K apontou, o VMware Converter é o melhor ferramenta a ser usada para a conversão da instalação física do sistema operacional em uma máquina virtual.
Se eu entendi seus requisitos específicos corretamente, a maneira de fazer isso é criar um host ESXi temporário com capacidade suficiente para manter o servidor temporariamente. Em seguida, reconstrua a máquina principal com o ESXi e use o conversor novamente para fazer uma transferência virtual para virtual da VM de volta ao servidor original que agora está executando o ESXi. Você pode até mesmo usar o VMware Workstation ou o Player como destino temporário, embora eu nunca tenha realmente tentado isso, os documentos do Converter indicam que isso é possível.
Observe que você pode redimensionar volumes durante uma conversão do VMware, incluindo o volume do sistema do Windows, e usar discos provisionados thin para que o sistema temporário tenha menos espaço disponível do que o tamanho total do volume desejado para o servidor , você só precisa fornecer um pouco mais de espaço (um par de GB deve ser seguro) do que a quantidade total de espaço atualmente em uso.