O Active Directory e o DNS estão totalmente integrados. Se você estiver executando o AD nesse mesmo servidor e tiver removido a função de DNS do servidor, provavelmente terá sobrecarregado o AD.
Se você tiver outro servidor DNS integrado ao AD em seu ambiente, tente configurar as entradas DNS do servidor para apontar para esse servidor remoto para suas pesquisas de DNS. Depois disso, o AD deve ser capaz de aparecer corretamente.
Depois que o AD for instalado corretamente, você poderá DCPROMO o servidor para que ele não seja mais um controlador de domínio e, depois de fazer isso, você poderá instalar uma função de DNS autônoma sem a integração do AD.