Existem muitas razões possíveis para o seu PHP-FPM atingir o max_children. Os mais comuns são:
- Muitas solicitações paralelas de seus clientes
- Execução lenta dos scripts PHP
- Configuração muito baixa do max_children
Olhando as especificações da sua máquina, assumindo que não há nada mais do que PHP + Nginx rodando, eu acho que você poderia configurar muito mais do que 5. Você diz que tem 8 núcleos, geralmente o Nginx precisa de muito menos CPU que o PHP com 5 filhos você provavelmente nunca conseguirá usar todos eles. Normalmente, estou configurando para algo como o número de núcleos x 2 ou o número de núcleos x 4, dependendo do consumo de memória de seus scripts PHP.