Não tenho certeza do que está causando essa mensagem, mas sei que você pode criar um despejo usando o Process Explorer do SysInternals. No Process Explorer, clique com o botão direito do mouse em w3wp.exe e selecione Create Dump > Criar despejo completo. Demorou cerca de 15 segundos no meu servidor Windows 2003 x64 para criar um arquivo de despejo de 350 MB. Isso também não reiniciou o pool de aplicativos no meu servidor.
Outra opção é a ferramenta Debug Diag da Microsoft. Este é o melhor em capturar despejos de processo, com base em muitos critérios diferentes.