Eu tenho trabalhado com MS nesta questão e parece que é um problema com o instalador. Revendo os logs, posso dizer que o instalador realmente tenta copiar a versão x86 do vmmagent.msi, que funciona bem, use o WMI para excluir o arquivo e tente copiar o arquivo x64.
Ambos são chamados vmmagent.msi. O instalador está recebendo uma notificação de que o arquivo foi excluído quando, na verdade, a exclusão não foi concluída. Quando a versão x86 está lá e o instalador está copiando a versão de x64 bits, o erro "Acesso negado" está aparecendo.
Até que isso seja resolvido no VMMM, instalarei o agente manualmente com um script.