A julgar pelas informações que você forneceu, e já que você parece já ter aumentado os buffers, o problema provavelmente está na sua aplicação. O problema fundamental aqui é que, embora o sistema operacional receba os pacotes de rede, eles não são processados rápido o suficiente e, portanto, preenchem a fila.
Isso não significa necessariamente que o aplicativo seja muito lento por si só; também é possível que ele não consiga tempo de CPU suficiente devido a muitos outros processos em execução nessa máquina.