Você tentou executar um sniffer de pacotes (por exemplo, Wireshark) no lado do servidor conectado diretamente ao seu modem (sem o roteador)? Tente executar alguns sniffing de pacotes, se você não tiver.
Muitos pacotes-drop do ISP direcionam-se para as portas 137, 138, 139, 445 e alguns outros, entrando em suas redes em um esforço para "proteger" seus clientes (e seus investimentos). Se o compartilhamento de arquivos do Windows pela Internet ainda não funcionar depois que as portas forem encaminhadas, provavelmente essa é a causa. Não há nada que você possa fazer e você terá que recorrer a FTP, SSH ou outros meios.