Acontece que você não pode executar a função do Host de virtualização do RDS em um controlador de domínio. Eu entendo o motivo e nunca faria isso em um ambiente de produção, isso foi uma configuração de laboratório.
Estou respondendo isso para qualquer pessoa no futuro. Eu acho que deve haver algum tipo de alerta ou notação em algum lugar mínimo, mas de preferência não deve permitir que você selecione a caixa de seleção durante a seleção de função se estiver em um controlador de domínio.