Se você tiver acesso total à caixa do servidor, a melhor coisa a fazer é verificar se o tráfego do cliente chega da interface correta. Algo como:
tcpdump -i <ipsec-interface> -n
Você deve ver o tráfego do cliente aqui.
UPDATE: Da mesma forma, o tráfego do servidor deve chegar ao cliente através de sua interface IPSec e pode ser inspecionado com o tcpdump.