Acho que o erro que você cometeu é com os seguintes passos:
- Passou para "Registro do servidor de nomes" em o painel e digitou o meu endereço IP para os registros NS1 e NS2 (vamos digamos que o IP é 0.0.0.0).
- Fui para "Configuração do servidor de nomes de domínio" e digite ns1.mydomain.com & ns2.mydomain.com
O que parece que você fez é "dizer à internet" que os servidores de nomes para o seu nome de domínio devem ser encontrados no endereço IP "0.0.0.0", ou seja, se você tem um servidor DNS executando ativamente nesse endereço IP que é autoritativo para o nome "mydomain.com". O que você deve fazer é apontar os registros NS1 e NS2 de volta para os servidores de nome da namecheap.com e usar seu painel de controle para apontar o registro "A" para 0.0.0.0.
Além disso, você pode ter mais sorte com esta questão no serverfault.com, pois é mais uma coisa de configuração do servidor do que uma coisa de codificação:)