Um guia passo-a-passo está incluído aqui no blog de Tess Ferrandez:
Essencialmente, você configurará o DebugDiag 1.2 x64 para acionar esse código de exceção e criar um dump de usuário completo. Depois que o dump é criado, você pode usar o DebugDiag para analisar o dump para você. Embora com essa exceção específica, você provavelmente precisará usar o WinDbg + SOS.
Algumas das informações mais relevantes:
"Para estouros de pilha, como a maioria de vocês provavelmente sabe, a razão mais comum é que estamos em algum tipo de loop recursivo, então o que realmente gostaríamos de saber aqui é o que está nessa pilha ... A razão pela qual é aparecendo apenas com endereços e não com nomes de métodos, é porque o debug diag não entende .net, então teremos que trazer o dump para windbg para analisá-lo e verificar a pilha .net.
"No windbg, podemos carregar sos ( .loadby sos mscorwks ) e executar! clrstack na pilha ativa para obter o callstack."
(Se você estiver executando o .NET 4, o comando para carregar sos é: .loadby sos clr )
Por fim, o que você está procurando é o código incorreto em seu aplicativo que está causando a recursão. Os nomes dos métodos que aparecem no WinDbg quando o SOS é carregado, provavelmente o colocam na direção certa.