Se este for um servidor, acho que você também precisa permitir conexões de saída para ele. Você disse que permitia conexões de entrada para o servidor (você pode se conectar a ele), mas não criou uma regra para conexões de saída (ele não pode responder) e a conexão expira.
Você também pode tentar o Controle do Firewall do Windows para depurar isso:
https://binisoft.org/wfc
Tem uma janela onde são exibidas as últimas conexões bloqueadas do Firewall do Windows. Se você marcar este registro, poderá ver o que foi bloqueado recentemente e precisa ser permitido. Espero que isso ajude.