How does my router know whether to send traffic via the internet connection or through the vpn?
Com rotas; você pode fazer isso no menu Rotas Estáticas do pfsense.
Você precisa ter uma rota no local que diga ao seu roteador para onde encaminhar pacotes: um host na mesma rede ou outro roteador que saiba para onde encaminhar os pacotes, e assim por diante, até que chegue ao seu destino.
No entanto, 171.28.18.50 não é um endereço privado RFC1918, portanto, a menos que este seja apenas um exemplo de IP para ServerFault, você provavelmente não possui uma rota para esse roteador além da rota padrão, que seria sua próxima hop gateway dado a você pelo seu ISP.