Você precisaria instalar o Active Directory no seu servidor, o que significa executar o dcpromo nele. Dê uma olhada no vídeo em esta postagem .
Dito isso, recomendo que você instale um segundo servidor membro, se puder e ingressar no domínio para instalar o VMM. Normalmente, não é uma boa ideia jogar com serviços de nível de aplicativo em controladores de domínio do Windows.