você simplesmente não configura o domínio principal como um vhost nginx no servidor de subdomínio e deixa o dns apontando para o servidor antigo.
você configura vhosts para os subdomínios (ou captura todos os subdomínios dependendo do seu aplicativo) e aponta dns para o seu servidor subdomínio
Então, eu estou supondo que o DNS será algo assim:
example.com A 123.456.789.123 www.example.com A 123.456.789.123 sub.example.com A 123.456.789.124 sub2.example.com A 123.456.789.124 etc ...
é simples assim, o principal arquivo de configuração padrão não precisa ser editado, na verdade você poderia removê-lo se quisesse (embora eu sugira deixá-lo e configurar seu nome de servidor para localhost e como padrão para que nenhum subdomínio não seja ouvido para obter uma página padrão:)