Com problemas de replicação tão espinhosos como esse, deixe-me oferecer uma sugestão que está um pouco fora do assunto da sua pergunta: Corte e queime a floresta.
Tendo trabalhado em um domínio que era um pouco complicado, as coisas podem ficar tão descontroladas que você está gastando mais tempo sustentando com paus do que simplesmente criando um novo ambiente AD e migrando. Se você reinstalar o controlador de domínio, ainda terá problemas de replicação. Você pode rastreá-los e consertá-los? Talvez sim. Com tempo suficiente e um editor hexadecimal, tudo é possível, mas também está criando as obras inteiras de Shakespeare, batendo o seu controlador de domínio com um teclado por um intervalo de tempo suficientemente longo. Estatisticamente falando, isso não vai acontecer.
A praticidade da minha sugestão depende do tamanho do seu ambiente AD, é claro. Quantos domínios, como dispersos geograficamente, quais serviços estão integrados a ele etc. Em última análise, crie uma nova floresta em dois servidores e escolha os serviços integrados do AD mais importantes para migrar (Exchange, Lync, SharePoint). Você pode ter que criar uma confiança entre as duas florestas para manter a migração suave.
Para responder à sua pergunta diretamente: sugiro reinstalar o DC , mas somente depois que todas as funções tiverem sido migradas adequadamente. Reinstale o DC com um novo nome . No entanto, se você tiver problemas de replicação, terá os mesmos problemas básicos, apenas com uma nova instalação.
O Active Directory é como uma caixa de chocolates: Mantenha-o em um local seco e arejado, longe das crianças, e ele não ficará confuso.