Existe uma razão pela qual você não deseja executar serviços DNS do Windows? IMHO você deve executar os serviços que são construídos para o sistema assim no Windows você executar o DNS do Windows, em * nix executar bind ou qualquer um dos outros servidores DNS decentes.
Ok, fora do palanque.
Para realmente responder à sua pergunta, primeiro você deve fazer download da ligação aqui depois disso a explicação rápida e suja é "executar Bindinstall.exe" também há uma boa quantidade de documentação incluída, se você abrir o arquivo 'index.html', existe um link para algo chamado "Readme1st". leia tudo, explica tudo o que você precisa saber para obter um sistema básico. o restante dos documentos lhe dirá como configurar um arquivo de zona e quaisquer opções que você queira configurar.
Se você tiver problemas com o seu arquivo de zona, volte e nos pergunte (esperamos que mais especificamente) sobre os problemas que você está tendo.