1) Rede de convidados: A maneira mais simples de configurar isso é em seu roteador principal, onde você usa regras de firewall para garantir que o segmento com o convidado seja separado do segmento com sua rede interna (LAN e WLAN). Então você terá dois segmentos (e um terceiro segmento para a conexão de fibra).
Eu não estou familiarizado com pfSense, apenas com iptables, então não posso dar detalhes, mas é uma configuração bastante padrão onde basicamente você tem que adicionar regras que permitem o encaminhamento entre os adaptadores de rede para convidado / internet e interno / internet, mas não permitir guest / internal.
Se você não conseguir conectar o AP Guest diretamente ao roteador, mas apenas ao switch, precisará de uma VLAN que pareça estar diretamente conectada ao roteador.
Observe que o rack personalizado não terá apenas o roteamento e o firewall, mas também serviços como DHCP, proxy / cache DNS, etc. Os roteadores domésticos incluem tudo isso e também já têm uma configuração de rede guest pronta. Se você realmente precisa de um rack personalizado, e se ele vem com tudo que você precisa. Outra opção é substituir o firmware em seu roteador doméstico pelo OpenWRT, etc.
2) Fibra entre o PC e o servidor: Eu esperaria que o Netgear suportasse a configuração de "grupos de portas" ou algo similar que apenas conversassem entre si. Faça um desses grupos para as duas portas de fibra e outro para o resto. Se a Netgear não puder fazer isso, use a VLAN na fibra. Um segmento diferente para a fibra significa que você pode escolher a rota de transferência escolhendo o endereço de destino.
3) A interface WLAN do seu AP interno deve ser conectada à interface LAN (dependendo do firmware do AP, isso tem vários nomes). Isso significa que seu servidor DHCP central no roteador pode lidar com ambos e também significa que sua LAN e WLAN podem compartilhar um único segmento e se ver.