O que você está procurando é geralmente chamado de Portal Cativo e há uma variedade de fontes abertas disponíveis que são executadas em hardware comum. Por exemplo. o altamente vulnerável Linksys WRT54G. O que eu estou mais familiarizado é NoCat.net , especificamente seu software NoCatAuth. Infelizmente, isso parece não foi atualizado em algum tempo.
No entanto, uma pesquisa rápida no Google por "software de portal cativo" mostra muitos outros. A página da Wikipédia (Captive_portal) pode ser um bom lugar para começar.