Se o modem e o Raspberry Pi estiverem na mesma rede lógica (por exemplo, sem NAT ou roteamento), o Raspberry Pi não pode atuar como um gateway, pois está dentro da única rede disponível e o gateway real é seu modem. Este é o caso se o seu modem tiver um endereço (digamos 192.168.1.1/24 ) e seu RPi / computadores um endereço na mesma rede (digamos 192.168.1.100 - 101 e assim por diante). Os computadores podem diretamente ver o modem, então eles não precisam usar o Raspberry Pi como um gateway, mas apenas como o servidor DNS / DHCP.
Mas você poderia ter configurado mais endereços IP no Raspberry Pi; talvez em duas redes diferentes (digamos 10.0.0.0/8 para as máquinas internas e 192.168.1.0/24 para o modem) e o modem pode estar na rede separada ( 192.168.1.1 , um endereço típico para um modem). Em este caso você definiria o Raspberry Pi como o gateway para seus computadores na rede 10.0.0.0/8 , além de ser o servidor DNS / DHCP também.
Para responder sua pergunta, você deve definir o modem como o gateway no primeiro caso, e o Raspberry Pi no segundo: você evitará encaminhamento de pacotes desnecessário se estiver no primeiro caso .
Para elaborar sua segunda pergunta, o servidor DNS e o gateway não precisam estar na mesma máquina, portanto você não deve confundi-los: também é verdade que muitos modems agem como ambos.