Já faz um tempo desde que eu instalei o BES ou o BESX para que eu pudesse estar errado, mas esta é minha opinião:
Ao instalar o BESX em um controlador de domínio, a conta besadmin deve ser um membro do grupo incorporado \ Administradores, mas não do grupo Admins. do Domínio.
Você deve estar conectado ao servidor em que o BES deve ser instalado como besadmin, não como Administrador. Você deve instalar o BESX enquanto estiver conectado ao servidor como besadmin.