A reciclagem está eliminando um processo quando atinge certas condições, substituindo-o por outro.
Na terra da analogia terrível, é um pouco como garantir que o tamanho de um balão possa ser de apenas um pé quadrado com pinos posicionados em uma esfera de um pé - quando o balão atinge o limite, ele aparece e você substitua-o por um novo.
Os processos sendo reciclados recebem até {Shutdown Time Limit} para se fecharem, do ponto em que são instruídos a reciclar.
Se eles não puderem terminar o trabalho nesse período {90 segundo padrão}, é isso.
Se você estiver usando um host WCF com uma conexão persistente, acho que a resposta é não; mas a resposta também é "escolha limites maiores". O que você descreveu como sua política é: "Eu quero que meu aplicativo morra quando atingir 500 MB". Mas o aplicativo em si não sabe sobre esse limite; está apenas tentando crescer como precisa.
Carregue seu aplicativo sem limite; veja o que acontece e o que pode indicar um vazamento; definir limites no ponto em que um vazamento é indicado.