Os outros computadores que você está tentando conectar da execução do OS X ou de algum outro sistema operacional? Se for algum outro SO, você precisa configurá-los para usar o seu Mac como servidor DNS (caso contrário, as pesquisas para custom.local nunca serão enviadas para o BIND no seu computador).
Se você está tentando acessá-lo de outros computadores com OS X, as coisas são um pouco diferentes porque o OS X resolve * .local usando o DNS multicast em vez de uma pesquisa de DNS padrão. Para fazer isso funcionar, acesse Preferências do Sistema no seu Mac (servidor), abra o painel Compartilhamento e clique no botão Editar próximo ao topo para alterar o nome do mDNS do Mac para custom.local.