Permitir que o tráfego passe pelo uso do firewall é apenas metade do trabalho. Também deve haver um programa que escute na porta 443. A porta 443 é uma porta muito genérica, portanto, certifique-se de que o programa que você deseja usar esteja em execução e escutando na porta 443. Para ter uma idéia de como ele é genérico: O IIS pode usar a porta 443 para o tráfego https, e o Microsoft Exchange pode usar a porta 443 para conexões seguras através de https, owa, etc. Sem mencionar qualquer programa que não seja da Microsoft.
Em qualquer caso, firewall ou não, você deve ser capaz de ver um programa escutando na porta 443 do próprio servidor. Se você nem vê isso, então o programa não está rodando ou escutando na porta 443.
Além disso, não se esqueça de que, se esse programa tiver que ser acessível do mundo externo, você também precisará criar uma regra de encaminhamento de porta no roteador e, se o gerenciamento de https estiver habilitado no roteador, será necessário alterar porta padrão de 443 para outra coisa.