Você não poderá fazer ping em uma porta específica. Isso simplesmente não é possível. Ping usa o protocolo ICMP que, ao contrário do TCP e do UDP, não se preocupa com as portas. Você pode usar o telnet para tentar se conectar à porta com o seguinte comando:
telnet IP port
Você também pode usar o nmap para descobrir qualquer porta aberta em um host.
O gateway padrão é o seu modem? Esse endereço IP é um endereço particular? O seu roteador tem um firewall ativado e está bloqueando as solicitações ICMP? Vamos precisar de mais informações para melhor ajudá-lo.
Se você quiser acessar isso da Internet, precisará fornecer ao seu roteador um endereço IP estático ou usar um serviço como o DynDNS, que mapeará seu endereço IP para um nome DNS.