Seu problema é que você está tentando unir um computador a um domínio do Windows sem que o cliente saiba onde está o servidor DNS. Em um domínio do Windows, o DNS geralmente é integrado ao AD. O que resulta é quando você associa um computador a um domínio do Windows, algumas informações são criadas no AD e no DNS. Para que um computador localize o controlador de domínio durante o processo de ingresso no domínio, ele precisa saber onde o servidor DNS está.
O erro
When I try to make a client join my ad domain I got an error like "dns name doesn't exist".
significa que o seu cliente não consegue encontrar um servidor DNS que conheça a localização do seu controlador de domínio. Você pode ver quais registros DNS especificamente não podem encontrar se clicar no botão de detalhes quando o erro ocorrer.
Verifique se o seu cliente está usando o endereço IP correto do servidor DNS antes de tentar ingressá-lo no domínio do Windows. Além disso, verifique se o servidor DNS ingressou no domínio e contém os registros necessários para o controlador de domínio. Depois disso, tente unir o cliente ao domínio do Windows.