O Mac OS X inicia a abertura de portas efêmeras em 49152. Números de porta são inteiros não assinados de 16 bits, portanto, há 65535 portas possíveis. 65535 - 49152 = 16383. Acho que você tem 16K portas em TIME_WAIT.
Update : Você pode querer olhar para as seguintes variáveis sysctl (8):
net.inet.ip.portrange.lowfirst: 1023
net.inet.ip.portrange.lowlast: 600
net.inet.ip.portrange.first: 49152
net.inet.ip.portrange.last: 65535
net.inet.ip.portrange.hifirst: 49152
net.inet.ip.portrange.hilast: 65535
Acho que se você definir o hifirst para algo menor, aumentará o número de portas efêmeras disponíveis em seu sistema.
Pode haver uma opção de soquete ou algo para dizer à pilha que basicamente viole a especificação TCP e use um valor não padrão para TIME_WAIT, mas eu não sou o suficiente de um programador de soquetes do Mac OS X para saber disso.
Update 2 : Você provavelmente desejará usar o setsockopt (2) para definir o SO_REUSEADDR.