Isso não é à prova de balas, mas deve começar. Você pode colocar isso em um script e executá-lo sob demanda
iptables -N SYN_FLOOD
iptables -A SYN_FLOOD -m limit --limit 5/second --limit-burst 50 -j RETURN
iptables -A SYN_FLOOD -j LOG --log-prefix "SYN flood: "
iptables -A SYN_FLOOD -j DROP
Para desligar, basta executar:
iptables -D SYN_FLOOD