Você sempre pode conferir qualquer tutorial baseado em Linux sobre este tópico, o Mac também é apenas um sistema Unix. A maioria dos guias que você encontra on-line é voltada para os servidores (embora os servidores baseados em Mac sejam realmente raros). O seguinte foi retirado de ESnet :
Apply these settings to /etc/sysctl.conf, and reboot:
# set this for hosts connected at 1GE or higher
net.inet.tcp.win_scale_factor=8
# for 10G hosts it would be nice to increase this too, but
# 4G seems to be the limit for some OSX installations
kern.ipc.maxsockbuf=16777216
Para uma discussão mais aprofundada do tópico, verifique o seguinte post Ajuste de desempenho da pilha de rede no Mac OS X .