net.core.rmem_max
e net.core.wmem_max
são sua coisa.
Você pode examinar seus valores com
# sysctl net.core.rmem_max
e defina-os com
# sysctl -w net.core.rmem_max=8388608
Estes são os tamanhos do buffer de soquete, ao receber e enviar, respectivamente.
Eles têm valores padrão também - rmem_default
e wmem_default
.