Você quer alterar o nome do DOMAIN ou de um DOMAIN CONTROLLER?
Se você quiser renomear um DOMAIN CONTROLLER, faça exatamente como faria em qualquer outra máquina Windows: nas propriedades do sistema. Após renomear, certifique-se de reinicializá-lo pelo menos duas vezes, para que o DNS do domínio seja atualizado corretamente.
Se você quiser renomear um DOMAIN, isso pode ser feito, mas é um pouco mais complexo; aqui está a referência: link .