precisa de um pouco mais de informação. Por exemplo, este é um servidor DNS interno ou externo. O domínio está disponível interno e externo?
Vamos supor que a resposta é interna para ambos. Você precisa criar uma subzona para que isso funcione. Então crie uma subzona chamada 00. Isso deve ter seu próprio registro. Então você precisa de um registro A adicional chamado aa.00.etc ...
Depois que a zona e o registro forem criados, libere o cache do resolvedor de clientes "ipconfig / flushdns". Talvez seja necessário limpar o cache de servidores DNS (não-cliente) também. Em seguida, tente um nslookup no registro. Basicamente, certifique-se de que você pode resolver o IP antes de passar para o IIS. Com base na sua postagem, pelo menos por enquanto, seu problema está no DNS.
Para responder a sua outra pergunta, o DNS não se importa com números x letras
Editar1:
Eu testei na minha conta 1and1 e consegui criar com sucesso um domínio de sub-sub. Então eu fui ao menu e cliquei em criar sub-domínio. Na caixa de novo domínio, criei um registro chamado test1.test2, que era um subdomínio de "domain.com" em si. Depois de criar o subdomínio, tudo funciona para mim a partir de um nslook up. Você está pegando esse registro e apontando para um servidor web externo?