Verifique sua memória de pool não paginada. Você provavelmente está no final com o aplicativo em execução.
Quanto à sua pergunta, acho que o rpcping é uma ferramenta inestimável nessas situações. Veja um exemplo de como é usado com o Exchange:
Eu tenho duas instâncias do mssql 2005 e estou usando a replicação do CA XOSoft. O mestre é um cluster de failover e a réplica é um servidor autônomo. Eles estão todos executando o Server 2003 sp2 x64. Mesmos níveis de patch em todos os servidores. Essa configuração funcionou muito bem por vários meses até que recentemente restringimos as portas RPC nos dois nós do mestre (5000 - 6000 usando o rpccfg.exe). Temos que implementar a filtragem de saída, limitando assim as portas.
Começamos a receber erros de login para autenticação de janelas sql e NETLOGON Event ID: 5719:
This computer was not able to set up a secure session with a domain controller in domain due to the following: Not enough storage is available to process this command. This may lead to authentication problems. Make sure that this computer is connected to the network. If the problem persists, please contact your domain administrator.
Também vemos as políticas de grupo não atualizando e os compartilhamentos de arquivos em cluster ficam off-line ao mesmo tempo. As portas RPC foram definidas de volta ao padrão quando começamos a ver esses problemas e os servidores foram reinicializados, mas os problemas persistem. Os controladores de domínio não estão mostrando erros. Correndo dcdiag e netdiag mostra tudo está bem.
Observamos que o serviço XOSoft ws_rep.exe está usando muitas alças (8 - 9k), aproximadamente o mesmo número que o sqlserver está usando.
Assim que a replicação do xosoft é interrompida, os erros de login cessam e tudo funciona corretamente. Eu abri um ticket com o CA para o XOSoft, mas não tenho certeza se o problema é realmente o xosoft, mas que é o que está trazendo o problema à luz.
Estou procurando dicas sobre como depurar problemas de RPC. Especificamente em limitar as portas e, em seguida, reverter as alterações.
Verifique sua memória de pool não paginada. Você provavelmente está no final com o aplicativo em execução.
Quanto à sua pergunta, acho que o rpcping é uma ferramenta inestimável nessas situações. Veja um exemplo de como é usado com o Exchange: