Você pode tentar executá-lo no modo de compatibilidade.
Você pode usar o Systems Internals Process Explorer para ver se o processo consome CPU e em quais funções estão os threads do processo. Você pode até obter um rastreamento de pilha para todos os segmentos. Se você precisar de mais dados, talvez queira usar um depurador, mas, para uma rápida visualização, o Process Explorer pode ser uma boa ideia.
Você também pode usar o Systems Internals Process Monitor para ver as operações de registro e acesso a arquivos do processo. Talvez você possa ver que um dos últimos acessos falha e, em seguida, o processo trava.