Sim, você pode executar o DNS em sua máquina, mas a maioria dos registradores exigirá pelo menos dois IPs para configurar seus próprios servidores de nomes, e seria mais sensato usar vários servidores DNS externos para problemas de redundância e segurança.
Você pode adquirir um serviço como o DynDNS, no qual pode configurar seu domínio para usar seus servidores de nomes e definir registros para apontar para o seu IP residencial.
Você também pode receber gratuitamente a conta CloudFlare e configurar seus servidores de nomes, o que acho que seria melhor no seu caso.
Inscreva-se para obter uma conta CloudFlare gratuita e, em seguida, basta seguir o guia deles para configurar seus servidores de nomes em seu domínio e, em seguida, adicionar registros em seus painéis e apontar o domínio para seu IP.