O Windows Server 2008 e 2008 R2 não suportam mais a entrada de registro ReservedPorts.
Em vez disso, use o utilitário netsh para reservar portas, da seguinte forma:
netsh int <ipv4|ipv6> Add excludedportrange [protocol=]tcp|udp [startport=]<integer> [numberofports=]<integer> [[store=]active|persistent]
Fonte: link
Edit: Você também pode precisar instalar o hotfix do Windows encontrado pela KB Support KB acima.