Sim, funcionará desde que o servidor DHCP esteja conectado a todas as redes às quais você deseja fornecer endereços dinâmicos.
Usando o VirtualBox, certifique-se de configurar as placas de rede no "Modo em ponte" para que elas apareçam como placas de rede normais para o roteador, como se você estivesse conectando uma máquina física. Configure o servidor DHCP com um endereço estático, configure seus pools de concessão, etc., então desabilite o DHCP em seu roteador.
Eu consideraria encontrar aquele computador antigo no loft e instalar o Linux nele e configurar um servidor DHCP nele. Embora eu admita que isso requer um pouco mais de trabalho, é grátis e tão poderoso.
Essa nova rede precisa ser isolada dos clientes sem fio? Você poderia considerar um servidor roteador / dhcp de código aberto completo como o pfSense ou o Zentyal e, em seguida, colocá-lo na rede entre o roteador e sua nova rede.