O que preciso fazer para configurar algo como o OpenDNS, que outras pessoas podem acessar? Qual software precisa ser executado nesta máquina? Onde devo preencher minhas entradas de DNS?
Estou apenas curioso - nenhuma intenção de levar um concorrente ao bom serviço deles.
Leia as informações acima cerca de 10 vezes até que você tenha confirmado na memória, depois volte e pergunte a si mesmo se ainda deseja desenvolver, dar suporte, depurar, proteger e manter um serviço DNS público aberto.
Há muito mais a fazer do que os olhos.
Um resolvedor DNS de cache / recursivo não é particularmente desafiador para implementar por si só. O Windows Server, o BSD e o Linux estão disponíveis como um componente que vem com ele ou podem ser adicionados sem custo. No Windows Server 2008+, adicione-o como uma função. No * nix, confira as man pages para bind.
"Preenchendo as entradas" é o que o cache faz, suponho. Você pode ler aqui as informações básicas sobre como o DNS funciona: Sistema de nomes de domínio
A parte difícil é a segurança e o tempo de atividade. Isso, no entanto, está muito fora do escopo desta questão.