Você pode executar um processo separado que lide com todos os relatórios, dessa forma, apenas um processo precisaria usar recursos em vez de muitos. Especialmente em um ambiente multiusuário, isso seria uma boa ideia. Sim, você pode executar processos do php, verificar a documentação por ex. popen ().
Por outro lado, deve-se também pensar se isso (dompdf with php) é o melhor caminho a percorrer em grandes relatórios. Existem também outras implementações de serviços de criação de pdf que funcionam com mais rapidez e eficiência com recursos.
EDIT: Para uma rápida correção do seu erro atual, você pode aumentar o limite de memória do PHP para, por exemplo, 256M, mas isso seria apenas uma solução alternativa, em vez de uma solução real.