O cenário que encontrei ajudou muito a estabilidade do túnel
set vpn ipsec auto-update '60'
Meus intervalos de detecção de peidos mortos & os tempos limite foram maiores que os seus (30 e 120 segundos, respectivamente) e usei VTIs, mas suas configurações são quase idênticas às minhas. Consegui sustentar 400 Mbps através do túnel dentro de uma VM VyOS sem problemas.