Em nossos escritórios, usamos o Zyxel P660R-D configurado no modelo de ponte completa para algo mais substancial para PPPoE e firewall.
Seu Zyxel P600 suporta ponte completa, para que você possa emparelhá-lo com um firewall mais substancial, como um Zyxel USG 100 ou D-Link DFL-800 (ótimo kit, é um Clavister re-branded, mas agora EOL - apenas Ebay).
O problema que você está tendo é muito provável de haver muitas sessões abertas / rastreamento de conexão. Pequenos firewalls SOHO como esse realmente enfrentam dificuldades se você tem várias sessões FTP / SSH / HTTP ativas e elas caem com apenas 300 sessões ativas.
O Zyxel P660R-D é classificado como sendo um dos modems ADSL mais rápidos também (dependente de chipset DSLAM / MSLAM do provedor). Consulte o link