Não tenho certeza do que você quer dizer com "clientes"; Eu suponho que você quer dizer que as pessoas tentam acessar seu servidor (em vez de você oferecer um ponto de acesso para clientes como a Starbucks). Eu estou supondo que você não tem switches e dois roteadores de seus ISPs que tenham portas LAN suficientes. Eu também estou assumindo que seus roteadores são suficientemente rápidos para suas necessidades de LAN (então gigabit Ethernet, se você precisar).
Em todos os casos, você desejará ter duas redes diferentes para os roteadores. Digamos, 192.168.0.1/24 para o roteador para o ISP 1 e 192.168.1.1/24 para o ISP 2. Se você não fizer isso, você acabará com dores de cabeça ou acabará em uma situação impossível de resolver .
Baixo custo + mais fácil de configurar
"Melhor" em termos de custo e facilidade é provavelmente usar uma porta de rede sobressalente na máquina 5 (instale uma placa de rede se necessário) e conecte-a ao roteador para o ISP 2. Em seguida, você pode definir uma rota mais alta custo para o segundo roteador fazer com que a Internet falhe para ele, se necessário, ou apenas configurar a porta Ethernet para a sub-rede da LAN. O benefício disso é que é tão simples quanto conectar uma conexão de rede extra (e placa) mais a configuração em uma máquina. Ele também mantém uma aparência de separação entre as duas LANs, desde que a máquina 5 não seja comprometida, o que você pode querer para fins de segurança. Se você deseja ligar as duas redes, você pode configurar a máquina 5 para atuar como um roteador; seu sucesso dependerá da configuração dos roteadores dos seus ISPs.
Equilíbrio entre custo + flexibilidade
Um bom equilíbrio entre custo e flexibilidade é obter um terceiro roteador com pelo menos três portas de rede (uma em que você tenha controle total sobre o roteamento e não algo como um roteador wi-fi de consumidor, a menos que planeje executar algum firmware personalizado ligado) e um interruptor. O roteador deve ser configurado para ter dois gateways - ISP 1 e ISP 2. Em seguida, crie um terceiro segmento de LAN ao qual todas as suas máquinas estejam conectadas e, em seguida, use o switch para conectar todos os seus dispositivos ao roteador. É mais barato e mais fácil obter um switch com muitas portas do que comprar um roteador com o mesmo número de portas.
Continuando com a configuração da configuração balanceada ... com base em sua edição, acho que uma boa configuração seria ter o ISP 2 com um custo de rota menor que o ISP 1, de modo que as conexões de entrada e de saída o usem por padrão. No roteador 3, você deve ser capaz de definir o tráfego de entrada na LAN do ISP 1 (que está conectada somente ao roteador) para ir ao seu servidor. Você provavelmente precisará definir uma regra SNAT para que o tráfego relacionado ao servidor da máquina 1 vá para o ISP 1; Estou assumindo que o problema de DNS reverso está relacionado a medidas anti-spam e, portanto, o endereço IP de tráfego de saída é importante. Por fim, use o QoS no roteador 3 para garantir que o tráfego importante seja priorizado. Os benefícios dessa topologia são que todas as suas máquinas podem "ver" umas às outras e podem ser expandidas de maneira barata. Você também pode fazer a reconfiguração virtual da rede se tiver necessidades diferentes no futuro. Os tipos de configuração que você pode fazer incluem criar segmentos de LAN separados para segurança (usando VLANs), QoS para priorizar tráfego diferente e reconfigurar iptables (ou o que for usado no roteador) se você adicionar / remover / alterar a configuração do servidor. Você pode querer ter um switch que ofereça suporte a VLANs para proteção do futuro, caso ache que está nos cartões.
A desvantagem é que sua rede de armazenamento compartilha a mesma conexão física que seus outros serviços; você pode não querer isso. Idem sistemas de gerenciamento remoto como o IPMI.
Se você está procurando um roteador de baixo custo, eu posso recomendar o EdgeRouter X da Ubiquiti. Eu tenho usado três deles sem problemas desde janeiro (dois em papéis diferentes em um ambiente de pequena empresa e um em casa). Posso atestar que o ER-X pode executar a segunda configuração que descrevi acima: Configurei com êxito um dos roteadores comerciais para executar vários serviços em endereços IP diferentes para várias máquinas virtuais, todas com seus próprios endereços IP; Eu também (infelizmente) tive a oportunidade de testar a capacidade da minha rede doméstica de executar conexões ISP duplas hoje, já que a conexão do meu provedor de serviços de Internet está inativa e falhei no plano de dados do celular. Eu não sou de forma alguma afiliado à Ubiquiti.