A razão pela qual o traceroute não funcionará na rede local é, porque tudo passa por 2. camada, não 3. rede 1, portanto, não há saltos, mas o ping funcionará como a máquina responderá.
As regras de firewall no outro roteador de rede são específicas da porta, portanto, elas funcionarão de maneira diferente como sua configuração. Seu firewall parece aceitar apenas conexões estabelecidas e eu acho que a regra # 3 está descartando tudo o que tenta acessar sua rede, exceto a conexão estabelecida. Tudo na rede local deve funcionar bem.
Portanto, eu tentaria solucionar problemas com o servidor OSX no nível do servidor e não no nível da rede, que é fornecido se você puder executar ping em sua interface. Você provavelmente não configurou o servidor da Web corretamente.