Não desabilite os cookies SYN, que são incrivelmente contra-produtivos, como você pode ver, em vez de o host voltar para os sockets dos cookies, simplesmente o descarta.
O correto a fazer é ajustar net.ipv4.tcp_max_syn_backlog
para um valor alto o suficiente para que ele não ative mais esse aviso.
Provavelmente você também desejará ajustar a pilha TCP em geral para ter mais memória - um Google superficial para "Linux TCP Tuning" deve fornecer o que você precisa.