Parece que a melhor maneira de fazer isso é configurar uma VPN (OpenVPN ou PPTP deve funcionar) e uma ponte entre o AP virtual e o roteador. Isso isola o tráfego "não seguro" e faz com que ele apareça em uma nova interface no roteador / servidor, onde posso rotear como desejo e definir regras de firewall de acordo.
Parece que uma VLAN não funciona aqui sem um switch gerenciado. Meus switches são "compatíveis com VLAN", pois passarão por quadros marcados não modificados, mas não marcam nem particionam. Pelo que entendi, isso é necessário para a capacidade de segregar adequadamente as duas LANs em um link físico.
Este é o tutorial que estou usando: link
Estou testando isso agora com o meu AP existente. Se funcionar, comprarei novos e experimentarei com uma configuração multi-AP. Eu não tenho 100% de certeza de como a VPN funcionará de vários APs, mas acho que todos eles aparecerão sob o mesmo iface no servidor. No pior caso, posso apenas ligar as interfaces virtuais no servidor. Isso permitirá que eu faça o RADIUS pelo endereço MAC na interface "não segura" e prepararei um pequeno aplicativo da Web para um usuário da rede segura para "autenticar" temporariamente um convidado. Vai ser bem legal.